跳到正文
  1. AWS Machine Learning Blog72

    SageMaker Inference 支持 Multi-Instance GPU 以最大化模型端点 GPU 利用率

    Amazon SageMaker Inference 新增 GPU 分区功能,利用 NVIDIA MIG 将物理 GPU 划分为独立分区,支持在单 GPU 上部署多个隔离模型。测试显示,H100 的 mig-3g.40gb 分区在吞吐和延迟上优于整卡 A100-40GB,且在长上下文高并发场景下成本降低 18%–34%。

    推荐理由:SageMaker Inference 引入 MIG 分区,允许在单 GPU 上部署多个隔离模型,并提供了 H100 分区与 A100 整卡的性能与成本对比数据。

  1. AWS Machine Learning Blog72

    Amazon Bedrock AgentCore 的 Web Answer 功能正式可用

    Amazon Bedrock AgentCore 的 Web Answer 功能正式可用,允许智能体通过单次工具调用获取基于当前网络来源的综合且带引用的答案。该功能由 AWS 托管,自动执行规划、并行搜索、事实核查及引用提取,无需开发者自行构建和维护检索管线。Web Answer 目前仅在 us-east-1 区域可用,定价为每 1,000 次工具调用 10 美元。

    推荐理由:原文给出了 Web Answer 的 GA 状态、单次调用获取带引用答案的机制及定价,读者可据此评估其替代自建检索管线的成本。

  2. Google DeepMind84

    Google DeepMind 发布 Gemini Omni 1.2 Flash,支持 15 秒视频生成并降价 30%

    Google DeepMind 正式发布 Gemini Omni 1.2 Flash,该模型在 Gemini API 和企业版中全面可用,原生支持最长 15 秒的视频生成与编辑。

    推荐理由:原文明确了视频时长从 10 秒提升至 15 秒及价格下调 30% 的具体变化,读者可据此评估其在商业视频生成中的成本效益。

  1. AWS Machine Learning Blog62

    AWS 教程:在 Amazon Bedrock AgentCore 评测中使用决策模型

    AWS 发布教程,演示如何通过代码型评估器将 Jev 和 Strands Decider 2B 两个决策模型接入 Amazon Bedrock AgentCore Evaluations。

    推荐理由:文章给出了将决策模型接入 AgentCore 评测的完整代码示例,读者可据此构建可阈值化的智能体评估流程。

  1. AWS Machine Learning Blog72

    在 Amazon SageMaker AI 上使用知识蒸馏构建高效智能体

    AWS 团队演示了如何利用序列级知识蒸馏(SeqKD)在 Amazon SageMaker AI 上微调小型购物智能体。该方法使用 Amazon Bedrock 上的 GLM-5.3 作为教师模型生成多步轨迹,并通过 ShoppingBench 评分器筛选成功样本,对 Qwen3.5-4B 学生模型进行 LoRA 微调。

    推荐理由:文章提供了在 Amazon SageMaker AI 上通过序列级知识蒸馏将前沿模型行为迁移至小模型的具体流程与代码示例。

  1. AWS Machine Learning Blog67

    Amazon Bedrock AgentCore 发布 Session endpoints 支持实时预览 Agent 构建的 Web 应用

    Amazon Bedrock AgentCore 发布 Session endpoints 功能,允许用户通过认证 URL 在浏览器中实时查看 Agent 会话内运行的 Web 应用。该功能支持 HTTP 和 WebSocket 协议,用户可配置允许访问的端口,在 Agent 修改文件时通过 Vite 热重载即时看到页面变化,无需等待传统部署流程。

    推荐理由:原文展示了通过 Session endpoints 在浏览器中实时预览 Agent 修改的 Web 应用,提供了无需部署即可即时查看变更的开发工作流。

  1. AWS Machine Learning Blog62

    MoEngage 利用 AgentCore Gateway 将 400 多个私有 API 转化为 Agent 工具

    MoEngage 使用 Amazon Bedrock AgentCore Gateway 将 400 多个私有 REST API 转化为 Agent 工具,避免了构建 20 多个独立 MCP 服务器。

    推荐理由:文章给出了将私有 API 转化为 Agent 工具的具体架构,读者可参考其权限隔离与语义搜索方案解决大规模工具接入问题。

  1. Google DeepMind88

    Google DeepMind 发布 Gemini 4 Carbon 前沿模型

    Google DeepMind 发布 Gemini 4 Carbon,该模型在 Artificial Analysis Intelligence Index v5.0 中排名首位,得分 59。

    推荐理由:原文披露了 Gemini 4 Carbon 在网络安全基准上的具体得分及分阶段开放计划,读者可据此评估其在防御场景下的实际能力边界。

  1. AWS Machine Learning Blog62

    AWS SageMaker AI 支持 SOCI 索引镜像以加速任务启动

    AWS 宣布 SageMaker AI 训练和处理任务支持 SOCI 索引镜像,通过懒加载将容器启动时间从分钟级缩短至秒级。基准测试显示,35.4 GB 镜像的下载时间从 7 分 17 秒降至 3-11 秒,GPU 空闲时间最多减少 90%,且不影响后续训练性能。用户可直接使用带 -soci 后缀的预索引 DLC 镜像,或为自定义镜像创建索引,无需修改任务定义。

    推荐理由:原文给出了SOCI索引在SageMaker中的具体加速数据和两种接入方式,读者可据此评估对现有训练工作流的影响。

  2. Google DeepMind88

    Google DeepMind 发布 Genie 4 世界模型,支持原生音频与实时交互模拟

    Google DeepMind 发布 Genie 4,这是一款原生多模态世界模型,能同时生成视觉、音频和交互式对话。该模型结合 Gemini 系列能力,支持通过自然语言实时修改场景、模拟物理现象及人物行为。目前 Genie 4 已向可信测试者开放研究预览,后续将面向 Google AI Ultra 订阅者及 Gemini API 合作伙伴推出。

    推荐理由:Genie 4 将原生音频生成与 Gemini 实时推理结合,展示了交互式世界模拟在物理一致性和多模态反馈上的新边界。

  1. AWS Machine Learning Blog82

    Amazon SageMaker AI 发布训练会话 API,支持无 GPU 管理自定义训练循环

    Amazon SageMaker AI 发布训练会话 API,允许用户在本地 Python 进程中编写训练循环,由服务托管 GPU 执行采样、梯度更新和检查点操作。该功能支持 SFT、RL 等自定义算法,按 token 计费,并配套发布包含 SFT 和 RL 配方的训练会话 cookbook。

    推荐理由:该功能将抽象边界下沉至训练操作层,允许用户在本地编写训练循环,由服务托管 GPU 基础设施,从而在算法自由度与运维成本间取得平衡。

  2. AWS Machine Learning Blog62

    Amazon Polly 生成式引擎重大升级:新增 14 种语音并支持印地语和芬兰语

    Amazon Polly 生成式引擎完成重大升级,提供更具表现力和准确性的低延迟的语音输出,并新增 14 种跨 9 个地区的语音,其中印地语和芬兰语首次实现生成式语音通用可用。

    推荐理由:此次升级在不改变 API 调用的前提下提升了语音自然度与准确性,并新增印地语和芬兰语支持,便于现有应用直接获得更优的语音体验。

  1. OpenAI News82

    OpenAI 模型与 Codex 工作流登陆 Google Cloud

    OpenAI 与 Google Cloud 合作将前沿模型和 Codex 工作流引入 Gemini Model Garden。该服务通过 Google Cloud Marketplace 提供,用户可直接访问。

    推荐理由:OpenAI 模型与 Codex 工作流进入 Gemini Model Garden,用户可在 Google Cloud Marketplace 直接获取。

  1. AWS Machine Learning Blog62

    AWS 教程:使用 Strategy Mosaic 和 Amazon Bedrock AgentCore 构建智能体语义层

    AWS 发布教程,演示如何使用 Strategy Mosaic 作为语义层,通过 MCP 协议连接 Amazon Bedrock AgentCore 托管的 Strands 智能体。该架构支持跨 Amazon Redshift 和 Amazon Aurora 的无 ETL 联合查询,并将行级和列级安全策略直接应用于智能体调用,确保不同角色用户仅能访问其权限范围内的数据。

    推荐理由:演示了如何通过 MCP 协议将语义层接入 Agent,并实现跨数据源查询与细粒度权限控制。

  2. AWS Machine Learning Blog62

    TwelveLabs Pegasus 1.5 上线 Amazon Bedrock,支持长视频结构化元数据生成

    TwelveLabs 的视频语言模型 Pegasus 1.5 现已在 Amazon Bedrock 上可用,支持直接分析最长两小时的视频并返回带时间戳的结构化 JSON 元数据。该模型新增视频分段、多模态提示(支持参考图像)和即时处理功能,无需预索引即可从 Amazon S3 或 base64 字符串直接读取视频,数据保留在 AWS 数据边界内。

    推荐理由:Pegasus 1.5 在 Amazon Bedrock 上支持直接分析长达两小时的视频并返回带时间戳的结构化元数据,为长视频检索提供了新的工程路径。

  1. Google DeepMind60

    Google DeepMind 与新加坡政府合作发布端侧诈骗检测模型

    Google DeepMind 与新加坡政府技术署(GovTech)合作,基于 Gemma 模型微调并部署在端侧,用于检测本地诈骗对话。该模型采用两阶段流水线,在保护用户隐私的同时实现实时诈骗预警,旨在解决新加坡日益复杂的社交工程诈骗问题。

    推荐理由:展示了在端侧运行微调 Gemma 模型检测诈骗的技术路径,为平衡隐私保护与安全防护提供了可参考的工程实践。

  2. Google DeepMind85

    Google DeepMind 发布 Gemini 4 Argon 并披露其安全与对齐防护机制

    Google DeepMind 开始广泛推出 Gemini 4 Argon,并同步发布安全报告,重点阐述针对网络与生物滥用风险的防护策略。该模型在网络安全测试中解决了全部 12 个端到端模拟攻击场景,并通过输入筛查、内部自省和持续监控三层机制降低越狱风险。此外,系统引入了实时失配监控器,在编码基准测试中将模型试图走捷径或作弊的行为降至 2%,并在间接提示注入基准测试中将攻击成功率降至 0.7%。

    推荐理由:原文详细拆解了针对网络攻击与生物滥用风险的三层实时防护机制,以及防止智能体越界行为的监控逻辑。

  1. AWS Machine Learning Blog62

    AWS 发布多节点 Ray LLM 深度学习容器以支持 EKS 上的分离式推理

    AWS 推出多节点 Ray LLM 深度学习容器,支持在 Amazon EKS 上通过两个 GPU 节点部署大型语言模型,实现预填充和解码阶段的分离。该容器预集成了 vLLM、Ray Serve、NIXL 和 EFA 组件,通过 OpenAI 兼容接口提供服务,无需编写应用代码即可配置 KV 缓存传输,从而提升大规模推理性能并简化依赖管理。

    推荐理由:展示了如何利用预构建容器在 EKS 上实现多节点推理分离,简化了分布式部署流程。

  1. NVIDIA Blog70

    NVIDIA 在 OCP 峰会开放 Vera Rubin 架构以助力全球 AI 工厂规模化

    NVIDIA 在 OCP 全球峰会上宣布将 Vera Rubin 机架和计算托盘设计通过 MGX 架构贡献给 OCP,为下一代 AI 工厂基础设施提供共同基础。同时发布了 DSX AI Factory 的开源软件组件,并与 Meta、Google、Cisco 等合作伙伴推进开放网络标准及 800V DC 供电架构。

    推荐理由:原文展示了 Vera Rubin 架构向 OCP 开放及多项开源组件,为构建标准化 AI 工厂提供了具体技术路径。