跳到正文
11月9日周一
11月7日周六
  1. AWS Machine Learning Blog72

    SageMaker Inference 支持 Multi-Instance GPU 以最大化模型端点 GPU 利用率

    Amazon SageMaker Inference 新增 GPU 分区功能,利用 NVIDIA MIG 将物理 GPU 划分为独立分区,支持在单 GPU 上部署多个隔离模型。测试显示,H100 的 mig-3g.40gb 分区在吞吐和延迟上优于整卡 A100-40GB,且在长上下文高并发场景下成本降低 18%–34%。

    推荐理由:SageMaker Inference 引入 MIG 分区,允许在单 GPU 上部署多个隔离模型,并提供了 H100 分区与 A100 整卡的性能与成本对比数据。

  2. AWS Machine Learning Blog52

    使用 Okta Cross App Access 和 Amazon Bedrock AgentCore 治理 AI 代理访问权限

    AWS 发布教程,演示如何使用 Okta Cross App Access (XAA) 和 Amazon Bedrock AgentCore 构建 AI 代理的权限治理体系。该方案通过 ID-JAG 令牌交换实现代理代表用户访问应用,实测显示管理员移除用户授权后,新请求在约 1 秒内被拒绝,已签发令牌在 5 分钟内过期。

11月6日周五
  1. NVIDIA Blog72

    NVIDIA Vera CPU 发布:兼顾最高吞吐量与最快智能体性能

    NVIDIA 发布 Vera CPU,旨在为 AI 工厂提供单芯片解决方案以平衡智能体执行速度与每瓦特容量。在 100 兆瓦数据中心对比中,Vera 相比最快 x86 CPU 每瓦特支持 1.6 倍智能体数量,相比最高能效 x86 CPU 速度提升 2 倍。

    推荐理由:原文通过对比 x86 架构展示了 Vera CPU 在能效比和吞吐量上的具体优势,并列举了多家合作伙伴的生产环境实测数据。

  2. NVIDIA Blog72

    NVIDIA 全栈协同设计如何提升 AI 内存效率

    NVIDIA 提出通过全栈协同设计解决 AI 内存挑战,旨在从每一字节内存中获取更高性能。该策略通过 NVFP4 量化、KV cache 卸载及 RAG 索引优化,在 HBM 容量仅增长约 3% 的情况下,将智能体推理吞吐量每美元提升最高 30 倍。

    推荐理由:原文通过具体技术路径解释了全栈协同设计如何缓解 HBM 压力,读者可据此理解 AI 工厂中内存层级优化的实际逻辑。

11月5日周四
  1. AWS Machine Learning Blog72

    生产级 AI 智能体的四层上下文工程:Deep Insight 的代码实践

    AWS 团队在开源项目 Deep Insight 中展示了生产级 AI 智能体的四层上下文工程实践,通过架构隔离、提示词控制、文件系统外化和独立验证,显著降低 token 消耗。其中,write_and_execute 工具将脚本加入上下文的 token 减少约 95%,按需加载 Skills 使系统提示词缩小约 97%。

    推荐理由:文章给出了四层上下文工程的具体代码实现,读者可据此解决生产级智能体的上下文溢出问题。

  2. AWS Machine Learning Blog62

    U Mobile 基于 Amazon Bedrock AgentCore 构建电信智能体运营平台 AiDaH

    马来西亚电信运营商 U Mobile 基于 Amazon Bedrock AgentCore 构建了 AI 驱动的智能体帮助台 AiDaH,用于自动化处理跨系统的电信运营工单。

    推荐理由:文章拆解了电信运营商利用多智能体架构处理跨系统工单的具体路径,展示了从试点到生产落地的工程细节。

  3. AWS Machine Learning Blog42

    Indegene 如何在 AWS 上利用 LLM 智能体规模化提升生命科学数据质量

    Indegene 在 AWS 的 NEXT UDP 平台上构建了生产级 LLM 数据质量智能体,用于生成上下文感知的数据质量规则并产出可执行的 SQL 和 Python 代码。该智能体通过集中式人工介入治理机制验证规则,帮助企业在保持严格合规的同时降低数据质量维护成本,解决传统静态验证无法捕捉业务语境的问题。

11月4日周三
11月3日周二
  1. AWS Machine Learning Blog57

    使用 Amazon Nova Multimodal Embeddings 和 Amazon Bedrock AgentCore 构建智能体工程智能系统

    AWS 展示了如何构建多智能体工程助手,利用 Amazon Nova Multimodal Embeddings 和 Amazon Bedrock AgentCore 自动化零部件替换评估。系统通过确定性 Python 代码进行规格评分,结合多模态嵌入实现图表检索与视觉相似度比对,并生成符合 AS9100 标准的审计追踪。

  2. AWS Machine Learning Blog72

    在 Amazon SageMaker AI 上使用知识蒸馏构建高效智能体

    AWS 团队演示了如何利用序列级知识蒸馏(SeqKD)在 Amazon SageMaker AI 上微调小型购物智能体。该方法使用 Amazon Bedrock 上的 GLM-5.3 作为教师模型生成多步轨迹,并通过 ShoppingBench 评分器筛选成功样本,对 Qwen3.5-4B 学生模型进行 LoRA 微调。

    推荐理由:文章提供了在 Amazon SageMaker AI 上通过序列级知识蒸馏将前沿模型行为迁移至小模型的具体流程与代码示例。

11月2日周一
  1. MIT Technology Review · AI52

    HPE 建议企业停止统计 Token,转而关注合并代码成本

    HPE 建议企业停止统计 Token,转而关注合并代码成本。文章指出,随着 AI 智能体在编码任务中消耗大量 Token,按量计费可能导致高价值工作流成本激增。HPE 提出通过混合部署模式,将常规任务路由至本地开源模型,仅将复杂推理任务交由前沿模型处理,从而在保障代码安全的同时降低整体成本。

  2. The Decoder70

    沙特阿美以 26 亿美元收购 Humain 49% 股份

    沙特阿美宣布以约 26 亿美元收购 AI 公司 Humain 49% 的股份,并注入自身 AI 技术。Humain 由 PIF 于 2025 年 5 月创立,计划到 2030 年建设 3 吉瓦的数据中心容量,并训练 ALLaM 等阿拉伯语模型。尽管受伊朗战争影响加强了数据中心防护,Humain 的国内外需求并未下降,且已与 AMD 和 Cisco 合作向客户提供服务。

10月31日周六
  1. AWS Machine Learning Blog72

    AWS 发布 Amazon Bedrock 成本端到端管理指南

    AWS 发布 Amazon Bedrock 成本端到端管理指南,提出包含归属、观测、执行、优化和运营的五阶段操作模型。该模型利用 IAM 标签和 CUR 2.0 实现按身份的成本归属,通过模型调用日志和请求元数据实现工作负载级观测,并建议根据风险选择监控告警、IAM 拒绝或网关同步拦截等预算执行层级。

    推荐理由:文章给出了从成本归属、请求观测到预算强制执行的五阶段操作模型,帮助团队将 Bedrock 支出转化为可治理的工程问题。

  2. AWS Machine Learning Blog67

    Amazon Bedrock AgentCore 发布 Session endpoints 支持实时预览 Agent 构建的 Web 应用

    Amazon Bedrock AgentCore 发布 Session endpoints 功能,允许用户通过认证 URL 在浏览器中实时查看 Agent 会话内运行的 Web 应用。该功能支持 HTTP 和 WebSocket 协议,用户可配置允许访问的端口,在 Agent 修改文件时通过 Vite 热重载即时看到页面变化,无需等待传统部署流程。

    推荐理由:原文展示了通过 Session endpoints 在浏览器中实时预览 Agent 修改的 Web 应用,提供了无需部署即可即时查看变更的开发工作流。

  3. TechCrunch · AI73

    Google Suncatcher 原型星在轨运行并测试 Gemma 4 推理

    Google Suncatcher 原型星已上线并与地面通信,该卫星搭载 4 个 TPU 并预装 Gemma 4 模型。工程师通过发送提示词让模型创作俳句并报告轨道环境,以验证芯片在太空辐射下的表现。若测试成功,Google 计划于 2027 年发射两颗配备更先进芯片的卫星,以支持星间光学链路和分布式推理负载。

  4. AWS Machine Learning Blog42

    如何在 AWS GovCloud (US) 中配置 Amazon Bedrock 以支持 ChatGPT 桌面应用

    ChatGPT 桌面应用现已支持通过 Amazon Bedrock 在 AWS GovCloud (US) 中运行,提供 Work 和 Codex 两种模式。该配置将模型推理路由至 us-gov-west-1 区域的 Bedrock Mantle 端点,利用 AWS IAM 进行访问控制。此部署支持零数据保留(ZDR),确保提示词和响应不写入持久存储,满足严格的数据驻留与安全合规要求。

10月30日周五
  1. AWS Machine Learning Blog42

    AWS Batch 为 SageMaker Training 任务推出配额管理功能

    AWS Batch 针对 SageMaker Training 任务推出配额管理功能,支持按团队或项目划分 GPU 算力配额。该功能提供 LEND 和 LEND_AND_BORROW 等资源共享策略,允许自动借用闲置算力并执行跨配额抢占。管理员可配置基于优先级的配额内抢占,确保高优先级工作负载优先运行,从而提升多团队环境下的 GPU 利用率。

10月29日周四
  1. AWS Machine Learning Blog42

    Amazon Nova Act 加速软件交付:QA Studio 新增应用管理与团队权限控制

    基于 Amazon Nova Act 构建的 QA Studio 参考方案新增“应用”与“团队”功能,以解决大规模测试自动化中的组织与权限管理难题。应用功能通过 CloudWatch 指标计算 0-100 健康分并识别不稳定测试,团队功能则实施基于角色的访问控制,确保测试资产归属清晰且权限隔离。

  2. AWS Machine Learning Blog57

    AWS 发布基于 Amazon Bedrock AgentCore 的企业级智能体 AI 平台参考架构

    AWS 发布了一套基于 Amazon Bedrock AgentCore 的企业级智能体 AI 平台参考实现,旨在解决多团队构建智能体时的安全隔离、模型治理和成本归属难题。该架构采用联邦式运营模型,通过独立的推理网关和 MCP 工具网关实施最小权限控制,并引入部署时评估门禁,确保每个智能体在晋升至生产环境前通过安全与质量验证。

10月28日周三