跳到正文
  1. AWS Machine Learning Blog72

    SageMaker Inference 支持 Multi-Instance GPU 以最大化模型端点 GPU 利用率

    Amazon SageMaker Inference 新增 GPU 分区功能,利用 NVIDIA MIG 将物理 GPU 划分为独立分区,支持在单 GPU 上部署多个隔离模型。测试显示,H100 的 mig-3g.40gb 分区在吞吐和延迟上优于整卡 A100-40GB,且在长上下文高并发场景下成本降低 18%–34%。

    推荐理由:SageMaker Inference 引入 MIG 分区,允许在单 GPU 上部署多个隔离模型,并提供了 H100 分区与 A100 整卡的性能与成本对比数据。

  1. AWS Machine Learning Blog72

    Amazon Bedrock AgentCore 的 Web Answer 功能正式可用

    Amazon Bedrock AgentCore 的 Web Answer 功能正式可用,允许智能体通过单次工具调用获取基于当前网络来源的综合且带引用的答案。该功能由 AWS 托管,自动执行规划、并行搜索、事实核查及引用提取,无需开发者自行构建和维护检索管线。Web Answer 目前仅在 us-east-1 区域可用,定价为每 1,000 次工具调用 10 美元。

    推荐理由:原文给出了 Web Answer 的 GA 状态、单次调用获取带引用答案的机制及定价,读者可据此评估其替代自建检索管线的成本。

  2. NVIDIA Blog72

    NVIDIA Vera CPU 发布:兼顾最高吞吐量与最快智能体性能

    NVIDIA 发布 Vera CPU,旨在为 AI 工厂提供单芯片解决方案以平衡智能体执行速度与每瓦特容量。在 100 兆瓦数据中心对比中,Vera 相比最快 x86 CPU 每瓦特支持 1.6 倍智能体数量,相比最高能效 x86 CPU 速度提升 2 倍。

    推荐理由:原文通过对比 x86 架构展示了 Vera CPU 在能效比和吞吐量上的具体优势,并列举了多家合作伙伴的生产环境实测数据。

  1. OpenAI News70

    OpenAI 发布 Images 2.6 图像生成模型

    OpenAI 发布 Images 2.6,带来更快的图像生成、GIF 创建、更精确的编辑功能以及新的 API 控制。该更新已同步至 ChatGPT、Codex 和 API 平台。

    推荐理由:官方明确了 Images 2.6 在生成速度、GIF 创建及 API 控制上的具体升级,便于评估其对现有工作流的影响。

  1. NVIDIA Blog80

    NVIDIA RTX Spark 笔记本新增 Nemotron 3.5 Transcribe 模型及 Agent 资源管理功能

    NVIDIA 宣布 RTX Spark 笔记本新增 Nemotron 3.5 Transcribe 开源语音模型及 Agent 资源管理功能。Nemotron 3.5 Transcribe 支持 40 种语言转录与翻译,在 Hugging Face Open ASR 榜单排名第一。NVIDIA App 新增资源管理功能,允许用户在前景应用与后台 Agent 之间分配 GPU 资源。

    推荐理由:原文展示了端侧 AI 在资源调度与多模态模型上的具体进展,读者可据此评估本地部署智能体的可行性。

  2. AWS Machine Learning Blog62

    AWS SageMaker AI 支持 SOCI 索引镜像以加速任务启动

    AWS 宣布 SageMaker AI 训练和处理任务支持 SOCI 索引镜像,通过懒加载将容器启动时间从分钟级缩短至秒级。基准测试显示,35.4 GB 镜像的下载时间从 7 分 17 秒降至 3-11 秒,GPU 空闲时间最多减少 90%,且不影响后续训练性能。用户可直接使用带 -soci 后缀的预索引 DLC 镜像,或为自定义镜像创建索引,无需修改任务定义。

    推荐理由:原文给出了SOCI索引在SageMaker中的具体加速数据和两种接入方式,读者可据此评估对现有训练工作流的影响。

  1. Microsoft Research62

    Microsoft Research 发布 Flint-interactive 交互式数据可视化语言

    Microsoft Research 发布 Flint-interactive,一种基于 Flint 编译器构建的交互式数据可视化语言。该工具允许 AI Agent 通过高层语义事件定义点击、过滤、缩放等交互行为,自动处理底层渲染依赖,从而提升生成可靠性并降低开发成本。用户可通过 MCP 在聊天中直接生成可交互图表,开发者也可利用编程 API 构建连接图表、表格与应用状态的仪表盘。

    推荐理由:通过语义事件与更新算子分离交互逻辑,降低 AI 生成复杂可视化图表的调试成本与失败率。

  2. AWS Machine Learning Blog82

    Amazon SageMaker AI 发布训练会话 API,支持无 GPU 管理自定义训练循环

    Amazon SageMaker AI 发布训练会话 API,允许用户在本地 Python 进程中编写训练循环,由服务托管 GPU 执行采样、梯度更新和检查点操作。该功能支持 SFT、RL 等自定义算法,按 token 计费,并配套发布包含 SFT 和 RL 配方的训练会话 cookbook。

    推荐理由:该功能将抽象边界下沉至训练操作层,允许用户在本地编写训练循环,由服务托管 GPU 基础设施,从而在算法自由度与运维成本间取得平衡。

  3. AWS Machine Learning Blog62

    Amazon Polly 生成式引擎重大升级:新增 14 种语音并支持印地语和芬兰语

    Amazon Polly 生成式引擎完成重大升级,提供更具表现力和准确性的低延迟的语音输出,并新增 14 种跨 9 个地区的语音,其中印地语和芬兰语首次实现生成式语音通用可用。

    推荐理由:此次升级在不改变 API 调用的前提下提升了语音自然度与准确性,并新增印地语和芬兰语支持,便于现有应用直接获得更优的语音体验。

  1. NVIDIA Blog60

    NVIDIA 发布 Earth-2 欧洲版开源模型,助力区域气象与气候预测

    NVIDIA 发布基于欧洲气象数据训练的 StormScope EU 模型,支持 10 分钟间隔的云况预测。AXA、Vaisala 等机构正利用 Earth-2 开源框架,将气象 AI 应用于保险风险评估、空气质量建模及太阳能发电预测等实际场景。

    推荐理由:文章展示了欧洲机构如何利用开源模型结合本地数据,解决从保险风控到空气质量监测的具体业务问题。

  2. NVIDIA Blog78

    NVIDIA Cosmos 平台新增世界模型训练、评估与部署工具

    NVIDIA 扩展了 Cosmos 平台,新增 Cosmos Data Factory 蓝图、训练工具和 Cosmos 3 Nano 模型变体,以支持世界模型的快速构建。

    推荐理由:NVIDIA 扩展了 Cosmos 平台,提供数据工厂蓝图和模型训练工具,帮助开发者加速物理 AI 系统的开发。

  1. OpenAI News60

    ChatGPT 广告业务扩展至 26 个新国家,超 10 万广告主已接入

    OpenAI 宣布 ChatGPT 广告业务扩展至 26 个新国家,使更多广告主能在用户探索、比较和决策购买时触达受众。官方数据显示,目前已有超过 100,000 名广告主使用该平台。

    推荐理由:官方确认 ChatGPT 广告业务扩展至 26 个新国家,并披露已有超 10 万广告主使用该平台。

  2. NVIDIA Blog82

    NVIDIA 在 GTC Berlin 展示本地 AI 硬件与模型生态更新

    NVIDIA 在 GTC Berlin 展示本地 AI 硬件与模型生态更新,RTX Spark 支持个人智能体,DGX Spark 64GB 系统于 10 月 23 日开售。DGX Station 新增 Windows 版本计划,支持企业级工作负载与机器人参考工作流。Recursive Flint 本地编码模型开放权重,支持 RTX Spark 和 DGX Spark 系统。

    推荐理由:原文梳理了本地 AI 硬件与模型生态的更新,读者可据此了解个人智能体在端侧运行的最新进展。

  1. AWS Machine Learning Blog75

    Amazon Bedrock 为 Anthropic Claude 模型支持结构化输出

    Amazon Bedrock 现已支持所有 Anthropic Claude 模型的结构化输出功能,覆盖 bedrock-runtime 和 bedrock-mantle 端点。该功能通过受限解码在生成阶段强制符合 JSON Schema,消除了对自定义解析、重试逻辑和后处理的需求。

    推荐理由:AWS 官方说明了 Bedrock 对 Claude 模型支持结构化输出的机制,开发者可据此移除自定义解析逻辑。

  2. AWS Machine Learning Blog62

    TwelveLabs Pegasus 1.5 上线 Amazon Bedrock,支持长视频结构化元数据生成

    TwelveLabs 的视频语言模型 Pegasus 1.5 现已在 Amazon Bedrock 上可用,支持直接分析最长两小时的视频并返回带时间戳的结构化 JSON 元数据。该模型新增视频分段、多模态提示(支持参考图像)和即时处理功能,无需预索引即可从 Amazon S3 或 base64 字符串直接读取视频,数据保留在 AWS 数据边界内。

    推荐理由:Pegasus 1.5 在 Amazon Bedrock 上支持直接分析长达两小时的视频并返回带时间戳的结构化元数据,为长视频检索提供了新的工程路径。

  1. AWS Machine Learning Blog75

    Meta Muse Spark Open 模型现已在 Amazon SageMaker JumpStart 上线

    Meta 的编码优化开源权重模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线,支持 100 万 token 上下文窗口。

    推荐理由:AWS 提供了在 SageMaker 上部署 Meta 开源编码模型的完整路径,涵盖实例选型与推理调用细节。

  1. OpenAI News62

    Higgsfield 接入 GPT-6 Astra 将 AI 视频时长扩展至 10 分钟以上

    Higgsfield 宣布接入 GPT-6 Astra、GPT-Image-2.5 和 GPT-Live,将 AI 视频生成时长从 1 分钟扩展至 10 分钟以上。该更新同时引入了更精准的视觉控制和语音电影制作路径。

    推荐理由:Higgsfield 接入 GPT-6 Astra 等模型,将视频时长从 1 分钟扩展至 10 分钟以上,并引入语音制作路径。

  1. NVIDIA Blog90

    NVIDIA RTX Spark 笔记本发布前推出本地 AI 生态更新与 Nemotron 3.5 Bolt 74B 模型

    NVIDIA 在 RTX Spark 笔记本 10 月 16 日上市前,发布了针对本地 AI 智能体的多项软件更新与性能优化。NVIDIA Nemotron 3.5 Bolt 74B 模型于 10 月 15 日推出,专为 RTX Spark 上的本地智能体设计,采用 2-bit 量化技术将 74B 参数模型压缩至 24GB 内存占用。

    推荐理由:NVIDIA 为 RTX Spark 笔记本发布日准备了完整的本地 AI 生态更新,涵盖 Nemotron 3.5 Bolt 74B 模型、PAIR 路由器正式版及 Adobe 等创意工具优化。