跳到正文
10月20日周二
  1. AWS Machine Learning Blog62

    AWS 教程:使用 Strategy Mosaic 和 Amazon Bedrock AgentCore 构建智能体语义层

    AWS 发布教程,演示如何使用 Strategy Mosaic 作为语义层,通过 MCP 协议连接 Amazon Bedrock AgentCore 托管的 Strands 智能体。该架构支持跨 Amazon Redshift 和 Amazon Aurora 的无 ETL 联合查询,并将行级和列级安全策略直接应用于智能体调用,确保不同角色用户仅能访问其权限范围内的数据。

    推荐理由:演示了如何通过 MCP 协议将语义层接入 Agent,并实现跨数据源查询与细粒度权限控制。

  2. MIT Technology Review · AI30

    企业 AI 的新经济学:从 Token 成本转向有效成果成本

    企业 AI 正从孤立实验转变为基础设施,核心指标从单 Token 成本转向“有效成果成本”。文章指出,企业需在定制栈、按需消费和集成私有平台间权衡,其中私有平台通过调度、KV-cache 管理等提升利用率。HPE Private Cloud AI 作为生产级基础,通过高利用率降低有效成本,但实际效果取决于工作负载。

  3. AWS Machine Learning Blog42

    Amazon SageMaker JumpStart 2026 年度回顾

    Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月间新增超过 100 个来自 30 家提供商的模型。Alibaba (Qwen) 贡献了 29 个模型,NVIDIA 贡献了 17 个,涵盖推理、多模态及世界基础模型。平台支持一键部署及 LoRA、SFT 等微调技术,并新增 Hugging Face 深度链接集成。

  4. AWS Machine Learning Blog62

    TwelveLabs Pegasus 1.5 上线 Amazon Bedrock,支持长视频结构化元数据生成

    TwelveLabs 的视频语言模型 Pegasus 1.5 现已在 Amazon Bedrock 上可用,支持直接分析最长两小时的视频并返回带时间戳的结构化 JSON 元数据。该模型新增视频分段、多模态提示(支持参考图像)和即时处理功能,无需预索引即可从 Amazon S3 或 base64 字符串直接读取视频,数据保留在 AWS 数据边界内。

    推荐理由:Pegasus 1.5 在 Amazon Bedrock 上支持直接分析长达两小时的视频并返回带时间戳的结构化元数据,为长视频检索提供了新的工程路径。

  5. AWS Machine Learning Blog67

    vLLM 双向 KV 传输优化多轮智能体负载 TTFT

    AWS 在 vLLM 中引入双向 KV 缓存传输机制,允许 Decode 节点将已计算的 KV 块返回给 Prefill 节点,避免多轮对话中重复计算上下文。在 Amazon EC2 P5en 实例的 1P1D 部署中,该功能使 Qwen3-32B 的 TTFT 降低最高 1.6 倍,zai-org/GLM-5-FP8 降低最高 3.3 倍。

    推荐理由:文章展示了双向 KV 传输在 vLLM 中的实现机制,并给出了多轮智能体负载下 TTFT 降低的具体基准数据。

  6. AWS Machine Learning Blog72

    vLLM 引入基于 Push 的 KV 传输机制以优化分离式推理延迟

    vLLM 新增基于 Push 的 NIXL 连接器,通过将 KV 缓存传输协调移出关键路径,显著降低分离式推理的首 token 延迟(TTFT)和每 token 输出时间(TPOT)。

    推荐理由:原文展示了 push 模式如何通过重叠计算与传输协调降低延迟,为高并发推理部署提供了具体的性能优化路径。

10月19日周一
10月15日周四
  1. NVIDIA Blog35

    NVIDIA DLSS 4.5 控制功能登陆 GeForce NOW

    NVIDIA DLSS 4.5 控制功能现已登陆 GeForce NOW,允许用户在不升级硬件的情况下调整云端游戏画质与性能。Ultimate 会员在 RTX 5080 云端主机上可使用最高 4X 动态多帧生成。Enshrouded 1.0 和 Warhammer 40,000: Boltgun 2 同步上线云游戏服务。

  2. AWS Machine Learning Blog52

    AWS 发布基于 Amazon Bedrock AgentCore 的自改进文档处理方案

    AWS 发布基于 Amazon Bedrock AgentCore 的自改进文档处理方案,利用八个专用智能体协作实现文档分类、提取、验证及自动学习。该系统通过 Strands Agents 构建工作流,能自动适应新文档格式并复用提取指令,将处理时间从 3 分 49 秒缩短至 1 分 30 秒,月处理千份文档成本约 58 美元。

10月14日周三
  1. AWS Machine Learning Blog42

    Amazon Bedrock AgentCore 如何生成演示文稿

    基于 Amazon Bedrock AgentCore 构建的 AI 智能体系统可自动化生成演示文稿,内部测试显示耗时不足 90 秒。该方案使用 Strands Agents 框架编排 Claude Sonnet 4.6 进行内容创作,结合 Amazon Titan Text Embeddings v2 实现 RAG 检索以增强内容准确性。

  2. Latent Space82

    Dyna 联合创始人 Jason Ma 详解 Dyna-2 世界动作模型与机器人部署

    Dyna Robotics 联合创始人 Jason Ma 在 Latent Space 访谈中介绍了 Dyna-2 世界动作模型,该模型基于超过 100 万小时的人类视频预训练,通过预测未来视频来指导机器人动作。Dyna 已部署半人形机器人在 Din Tai Fung 等真实场景折叠餐巾,并探讨了机器人数据瓶颈、硬件限制及智能体框架在长时程任务中的作用。

  3. AWS Machine Learning Blog52

    AWS 分享 Amazon SageMaker AI 上 MoE 模型的内核工程优化实践

    AWS 团队在 Amazon SageMaker AI 上实施了多项针对混合专家(MoE)模型的 GPU 内核优化,旨在降低推理延迟并提升吞吐量。通过 Swap-AB 矩阵转置、FP8 量化后端路由调整及消除 Triton JIT 重编译,在 H200 上实现了最高 10% 的吞吐量提升和 9% 的首 token 延迟(TTFT)降低。

10月13日周二
  1. AWS Machine Learning Blog73

    Amazon Bedrock 通过全球跨区推理在亚太五地接入 OpenAI GPT-6 模型

    Amazon Bedrock 通过全球跨区推理在泰国、马来西亚、新加坡、印尼和台湾提供 OpenAI GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra 的调用能力。文章演示了使用 Converse API 和 OpenAI 兼容 API 发起请求,并给出了 IAM 策略、SCP 例外配置、配额计算和 CloudTrail 监控的具体方法。

    推荐理由:原文给出了跨区推理的调用路径、权限配置和配额规则,读者可以据此在亚太区域接入 GPT-6 模型。

  2. AWS Machine Learning Blog62

    AWS 发布多节点 Ray LLM 深度学习容器以支持 EKS 上的分离式推理

    AWS 推出多节点 Ray LLM 深度学习容器,支持在 Amazon EKS 上通过两个 GPU 节点部署大型语言模型,实现预填充和解码阶段的分离。该容器预集成了 vLLM、Ray Serve、NIXL 和 EFA 组件,通过 OpenAI 兼容接口提供服务,无需编写应用代码即可配置 KV 缓存传输,从而提升大规模推理性能并简化依赖管理。

    推荐理由:展示了如何利用预构建容器在 EKS 上实现多节点推理分离,简化了分布式部署流程。

10月12日周一
  1. The Decoder80

    Microsoft 计划 2027 年将自研 Maia AI 芯片扩展至吉瓦级规模

    Microsoft 计划从 2027 年开始在 Azure 部署吉瓦级规模的自研 Maia AI 芯片,将其作为主要产品的主要推理系统。Maia 300 芯片配备 288 GB HBM4 内存,带宽达 18 TB/s,功耗 950 瓦,官方称其每兆瓦产生的 token 数量比领先 GPU 系统高 40%。

    推荐理由:原文披露了 Maia 300 的硬件规格与能效指标,读者可据此评估其替代 GPU 进行推理部署的潜力。

  2. NVIDIA Blog70

    NVIDIA 在 OCP 峰会开放 Vera Rubin 架构以助力全球 AI 工厂规模化

    NVIDIA 在 OCP 全球峰会上宣布将 Vera Rubin 机架和计算托盘设计通过 MGX 架构贡献给 OCP,为下一代 AI 工厂基础设施提供共同基础。同时发布了 DSX AI Factory 的开源软件组件,并与 Meta、Google、Cisco 等合作伙伴推进开放网络标准及 800V DC 供电架构。

    推荐理由:原文展示了 Vera Rubin 架构向 OCP 开放及多项开源组件,为构建标准化 AI 工厂提供了具体技术路径。

  3. The Verge · AI79

    微软发布第三代 Maia 300 AI 芯片,旨在成为主要推理系统

    微软发布第三代 Maia 300 AI 芯片,计划于 2027 年投入生产并成为其产品和服务的主要 AI 推理系统。该芯片基于 TSMC N2P 工艺,采用 Chiplet 架构,预计每兆瓦 token 产出比领先 GPU 系统高 40%,96 加速器配置下机架级吞吐量达 Maia 200 的 7 倍。

    同一新闻,精选展示《Microsoft 计划 2027 年将自研 Maia AI 芯片扩展至吉瓦级规模》

10月11日周日
  1. Latent Space52

    Standard Bots 工业机器人与 AI 执行栈深度解析

    Standard Bots 完成 2 亿美元 C 轮融资,估值达 10 亿美元,其工业机器人在 NASA 和 Amazon 等场景落地。该公司采用本地推理架构,利用边缘 GPU 处理传感器数据生成动作块,确保工厂环境下的低延迟与高可靠性。其核心策略是聚焦短周期任务,通过高质量目标数据微调模型,而非追求大规模参数,这种针对特定场景的 AI 适配方法对软件智能体开发具有借鉴意义。

10月9日周五
  1. AWS Machine Learning Blog72

    Postman 如何在 Amazon Bedrock 上为 4000 万开发者运行 Agent Mode

    Postman 在 Amazon Bedrock 上构建 Agent Mode,通过动态工具选择、Schema 感知读取和专用上下文处理器解决成熟产品集成 AI 智能体的工程挑战。架构利用 Bedrock 的跨区推理、零数据保留和分层提示词缓存,在保障数据合规的同时应对突发流量并控制推理成本。

    推荐理由:文章复盘了 Postman 在 4000 万开发者规模下构建 Agent Mode 的工程实践,提供了控制工具膨胀、Schema 读取和上下文管理的可复用架构模式。

10月8日周四
  1. AWS Machine Learning Blog75

    AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上线

    AWS 宣布 Claude Haiku 5.5 现已在 Amazon Bedrock 和 Claude Platform on AWS 上可用。该模型是 Claude 5.5 系列中速度最快、效率最高的模型,专为子智能体和高频、成本敏感型任务设计,大多数任务成本比 Claude Haiku 4.5 低约 75%。

    推荐理由:文章说明了 Claude Haiku 5.5 在 AWS 上的接入方式,并给出了与 Opus 5.5 配合使用的场景建议。

10月7日周三
  1. AWS Machine Learning Blog70

    AWS 提出智能体自动化业务价值评估框架

    AWS 提出智能体自动化业务价值评估框架,指出传统 RPA 的 ROI 模型无法衡量智能体在异常处理、决策质量和变更韧性上的价值。该框架建议将投资视为工作流组合,通过量化释放产能、减少纠错成本、提升决策结果和降低维护开销四个价值池,并设定明确的止损规则来验证投资回报。

    推荐理由:原文提出了包含时间、异常、决策质量和维护成本四个维度的评估框架,帮助读者量化智能体自动化在现有 RPA 模型之外的真实业务价值。