跳到正文
  1. NVIDIA Blog80

    NVIDIA RTX Spark 笔记本新增 Nemotron 3.5 Transcribe 模型及 Agent 资源管理功能

    NVIDIA 宣布 RTX Spark 笔记本新增 Nemotron 3.5 Transcribe 开源语音模型及 Agent 资源管理功能。Nemotron 3.5 Transcribe 支持 40 种语言转录与翻译,在 Hugging Face Open ASR 榜单排名第一。NVIDIA App 新增资源管理功能,允许用户在前景应用与后台 Agent 之间分配 GPU 资源。

    推荐理由:原文展示了端侧 AI 在资源调度与多模态模型上的具体进展,读者可据此评估本地部署智能体的可行性。

  1. NVIDIA Blog62

    C-BRAIN 与 NVIDIA 合作利用 AI 加速阿尔茨海默病研究

    C-BRAIN 与 NVIDIA 合作开发 AI 工具以加速阿尔茨海默病研究,利用联邦学习处理各机构私有数据。已发布的 OpenScientist 和 InsightEngine 工具将原本需数周的分析缩短至数分钟,单次成本低于 10 美元,预计每年可释放超百万小时的研究产能。

    推荐理由:C-BRAIN 与 NVIDIA 合作构建的 AI 研究工具将分析周期从数周缩短至数小时,展示了联邦学习在保护隐私前提下加速神经退行性疾病研究的可行性。

  1. AWS Machine Learning Blog82

    Amazon SageMaker AI 发布训练会话 API,支持无 GPU 管理自定义训练循环

    Amazon SageMaker AI 发布训练会话 API,允许用户在本地 Python 进程中编写训练循环,由服务托管 GPU 执行采样、梯度更新和检查点操作。该功能支持 SFT、RL 等自定义算法,按 token 计费,并配套发布包含 SFT 和 RL 配方的训练会话 cookbook。

    推荐理由:该功能将抽象边界下沉至训练操作层,允许用户在本地编写训练循环,由服务托管 GPU 基础设施,从而在算法自由度与运维成本间取得平衡。

  1. NVIDIA Blog62

    NVIDIA 欧洲云合作伙伴扩展主权、开放且安全的 AI 智能体基础设施

    NVIDIA 欧洲云合作伙伴正在扩展区域算力,支持模型训练、推理及智能体应用,并建立智能体访问边界。Nscale 使用 NVIDIA DSX MaxLPS 在相同功耗预算下实现了 37% 的 GPU 数量增加和近 50% 的推理吞吐量提升。

    推荐理由:原文展示了欧洲云厂商在算力、开放模型和智能体安全边界上的具体进展,读者可据此了解区域 AI 基础设施的落地形态。

  2. NVIDIA Blog82

    NVIDIA 在 GTC Berlin 展示本地 AI 硬件与模型生态更新

    NVIDIA 在 GTC Berlin 展示本地 AI 硬件与模型生态更新,RTX Spark 支持个人智能体,DGX Spark 64GB 系统于 10 月 23 日开售。DGX Station 新增 Windows 版本计划,支持企业级工作负载与机器人参考工作流。Recursive Flint 本地编码模型开放权重,支持 RTX Spark 和 DGX Spark 系统。

    推荐理由:原文梳理了本地 AI 硬件与模型生态的更新,读者可据此了解个人智能体在端侧运行的最新进展。

  3. AWS Machine Learning Blog67

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理

    AWS 团队在 Amazon SageMaker HyperPod 上通过 SFT 和 GRPO 微调 GPT-OSS-20B,将多语言推理正确率从 22% 提升至 100%。SFT 解决了模型默认用英语推理的问题,GRPO 进一步将答案语言正确率从 62% 提升至 70%。

    推荐理由:文章给出了 SFT 与 GRPO 在能力缺口下的分工结论,读者可据此判断何时使用强化学习微调。

  1. AWS Machine Learning Blog67

    vLLM 双向 KV 传输优化多轮智能体负载 TTFT

    AWS 在 vLLM 中引入双向 KV 缓存传输机制,允许 Decode 节点将已计算的 KV 块返回给 Prefill 节点,避免多轮对话中重复计算上下文。在 Amazon EC2 P5en 实例的 1P1D 部署中,该功能使 Qwen3-32B 的 TTFT 降低最高 1.6 倍,zai-org/GLM-5-FP8 降低最高 3.3 倍。

    推荐理由:文章展示了双向 KV 传输在 vLLM 中的实现机制,并给出了多轮智能体负载下 TTFT 降低的具体基准数据。

  2. AWS Machine Learning Blog72

    vLLM 引入基于 Push 的 KV 传输机制以优化分离式推理延迟

    vLLM 新增基于 Push 的 NIXL 连接器,通过将 KV 缓存传输协调移出关键路径,显著降低分离式推理的首 token 延迟(TTFT)和每 token 输出时间(TPOT)。

    推荐理由:原文展示了 push 模式如何通过重叠计算与传输协调降低延迟,为高并发推理部署提供了具体的性能优化路径。

  1. NVIDIA Blog90

    NVIDIA RTX Spark 笔记本发布前推出本地 AI 生态更新与 Nemotron 3.5 Bolt 74B 模型

    NVIDIA 在 RTX Spark 笔记本 10 月 16 日上市前,发布了针对本地 AI 智能体的多项软件更新与性能优化。NVIDIA Nemotron 3.5 Bolt 74B 模型于 10 月 15 日推出,专为 RTX Spark 上的本地智能体设计,采用 2-bit 量化技术将 74B 参数模型压缩至 24GB 内存占用。

    推荐理由:NVIDIA 为 RTX Spark 笔记本发布日准备了完整的本地 AI 生态更新,涵盖 Nemotron 3.5 Bolt 74B 模型、PAIR 路由器正式版及 Adobe 等创意工具优化。

  1. NVIDIA Blog70

    NVIDIA 在 OCP 峰会开放 Vera Rubin 架构以助力全球 AI 工厂规模化

    NVIDIA 在 OCP 全球峰会上宣布将 Vera Rubin 机架和计算托盘设计通过 MGX 架构贡献给 OCP,为下一代 AI 工厂基础设施提供共同基础。同时发布了 DSX AI Factory 的开源软件组件,并与 Meta、Google、Cisco 等合作伙伴推进开放网络标准及 800V DC 供电架构。

    推荐理由:原文展示了 Vera Rubin 架构向 OCP 开放及多项开源组件,为构建标准化 AI 工厂提供了具体技术路径。

  1. AWS Machine Learning Blog72

    AWS 发布 2026 年 9 月 AI 构建者更新:Bedrock 接入 OpenAI 模型与 Strands 开源工具链

    AWS 发布 2026 年 9 月 AI 构建者更新,Amazon Bedrock 正式支持 OpenAI 的 GPT-6 Astra、Sol 和 Luna 模型,并推出由 OpenAI 驱动的 Managed Agents 公共预览版。

    推荐理由:汇总了 Bedrock 接入 OpenAI 模型、AgentCore 运行时优化及 Strands 开源工具链更新,展示了企业级智能体在成本与治理上的最新进展。

  2. NVIDIA Blog72

    NVIDIA Omniverse 结合前沿 AI 智能体构建物理仿真应用

    NVIDIA 展示了开发者利用 GPT-6 Astra 等前沿 AI 智能体结合 Omniverse 库构建物理仿真应用的工作流。案例涵盖使用 Houdini 创建可编辑 3D 资产、在 Isaac Sim 中测试机器人拆解、从现场扫描重建建筑模型以及构建气轮机数字孪生。这些项目通过自然语言指令驱动智能体连接物理、渲染和传感器模拟能力,帮助开发者在物理 AI 仿真中探索场景、调查故障并改进设计。

    推荐理由:展示了前沿模型与 Omniverse 库结合构建物理仿真应用的具体工作流,为开发者提供可复用的智能体辅助开发路径。

  1. Google DeepMind82

    Google DeepMind 发布开源轻量级多模态嵌入模型 EmbeddingGemma 2

    Google DeepMind 发布 EmbeddingGemma 2,这是一个基于 Gemma 4 架构、拥有 7.4 亿参数的开源多模态嵌入模型,支持在端侧统一处理文本、代码、图像、音频和视频。

    推荐理由:该模型在 7.4 亿参数规模下统一了文本、图像、音频和视频嵌入,为端侧多模态检索提供了具体的性能基准与部署方案。

  1. Google DeepMind75

    Google DeepMind 发布 AlphaGenome Atlas 预测全基因组单核苷酸变异影响

    Google DeepMind 发布 AlphaGenome Atlas,提供人类基因组中 90 亿个单核苷酸变异的分子影响预测。平台包含 1 PB 数据集和 AVI 评分,可帮助研究人员快速排序变异并解释其功能,目前已通过网站、API 和 Google Antigravity 技能开放学术使用。

    推荐理由:原文给出了覆盖全基因组变异的预测平台及评分机制,读者可据此了解大规模基因组数据如何转化为可检索的研究资源。

已经到底了