Thinking Machines 发布 Inkling 2 Small:68 小时预训练 594B 多模态 MoE 模型
Thinking Machines 发布 Inkling 2 Small,这是一款 594B 总参数、17B 激活参数的多模态 MoE 模型,在 GB300 集群上仅用 68 小时完成 8.4T tokens 的原生 NVFP4 预训练。
推荐理由:原文梳理了 Inkling 2 Small 的训练效率、基准表现及对齐过程,为评估西方开源模型竞争力提供了具体参照。
Thinking Machines 发布 Inkling 2 Small,这是一款 594B 总参数、17B 激活参数的多模态 MoE 模型,在 GB300 集群上仅用 68 小时完成 8.4T tokens 的原生 NVFP4 预训练。
推荐理由:原文梳理了 Inkling 2 Small 的训练效率、基准表现及对齐过程,为评估西方开源模型竞争力提供了具体参照。
The Decoder 发布 Frontier Radar #5,分析了在 GPT-6 Astra 发布后,Ilya Sutskever、Yann LeCun 等顶尖人才离开大厂创立新实验室的现象。文章将 27 家新实验室分为六类,分别押注持续学习、非语言模态、私有数据、计算效率、自动化科研及垂直应用,并指出这些实验室正通过巨额融资填补大厂未覆盖的研究空白。
推荐理由:文章梳理了27家新实验室的技术押注与融资现状,为理解大模型之后的研究分化提供了具体参照。
NVIDIA 开源的 Aerial 和 Sionna 软件过去一年开发者采用量增长 10 倍,下载量超 100 万次,被全球 8000 多家机构用于构建 AI 原生 6G 网络。King's College London 利用语义通信将机器人任务完成时间缩短 52.6%,SoftBank 的神经接收器在干扰测试中实现最高 60% 的上行吞吐量增益。
NVIDIA 高级产品研究工程师 Chris Alexiuk 致力于通过 YouTube 等渠道,向开发者普及 NVIDIA Nemotron 开源多模态模型的应用。
Hugging Face 政策主管 Irene Solaiman 在 TechCrunch 播客中分析了企业构建开源 AI 的成本、风险及价值捕获难题。她指出美国可能需要 Nvidia 等巨头参与构建开源前沿模型以应对中国模型的竞争,并探讨了如何在保持开放生态的同时确保其安全性。
Simon Willison 发布了 datasette-llm 0.1a10 版本。
Simon Willison 的 LLM 工具发布 0.37 版本,新增 gpt-6.1-sol 和 gpt-6.1-terra 模型支持,并将默认模型切换为价格减半的 gpt-6-luna。该版本还改进了 embeddings 对多模态内容类型的支持,并包含来自 12 位贡献者的修复。
文章展示了如何利用开源 Python 爬虫 Crawl4AI 为 Amazon Bedrock Knowledge Bases 准备网页内容。该方案通过生成 Markdown 和元数据文件上传至 Amazon S3,支持结构化内容清洗、基于 CSS 选择器的定向提取及自定义元数据附加。
HPE 建议企业停止统计 Token,转而关注合并代码成本。文章指出,随着 AI 智能体在编码任务中消耗大量 Token,按量计费可能导致高价值工作流成本激增。HPE 提出通过混合部署模式,将常规任务路由至本地开源模型,仅将复杂推理任务交由前沿模型处理,从而在保障代码安全的同时降低整体成本。
Drew Breunig 受 qwenputer 启发,将 Nintendo Entertainment System 6502 CPU 的工作模拟器嵌入 Qwen3.5-4B 的权重中,使得用户可以在模型内部缓慢运行 Super Mario Bros 等 NES ROM。
Epoch AI 研究人员发现,开源模型 GLM 5.3 能够利用安全补丁发布与用户更新之间的时间差,在 48 小时内自主构建针对 Firefox 的完整漏洞利用链,单次攻击成本约 1000 美元。该模型在无人工干预的情况下识别了被伪装为常规改进的安全修复,并独立重新发现了一个未知漏洞以绕过浏览器沙箱保护。研究人员已将发现披露给 Mozilla,后者在 Firefox 159.0 中修复了该漏洞。
推荐理由:研究展示了开源模型利用补丁时间差自主构建浏览器漏洞利用链的能力,揭示了安全防御面临的新结构性风险。
Deepgram 宣布收购开源语音 AI 框架 Pipecat 的开发商 Daily,双方未披露交易金额但承诺 Pipecat 将保持开源。Daily 此前已融资超 6200 万美元,而 Deepgram 今年早些时候刚完成 1.3 亿美元 C 轮融资成为独角兽。
Akai 宣布 MPC Sample Key 将采用开源固件,并向开发者提供早期访问权限以支持 Vibe Coding 模组开发。该设备通过琴键回放采样,社区已展示包含 Native Instruments Massive 等合成器的定制固件。CEO 确认 inMusic 品牌将开源部分软件并提供 SDK,MPC Sample 也将同步支持相关社区功能。
Simon Willison 认为 2026 年 10 月是 Vibe 游戏开发的转折点,Claude Opus 5.5 在 3D 建模、音乐生成和游戏设计方面表现出显著进步,使得构建好玩的游戏变得容易。
NVIDIA 宣布 RTX Spark 笔记本新增 Nemotron 3.5 Transcribe 开源语音模型及 Agent 资源管理功能。Nemotron 3.5 Transcribe 支持 40 种语言转录与翻译,在 Hugging Face Open ASR 榜单排名第一。NVIDIA App 新增资源管理功能,允许用户在前景应用与后台 Agent 之间分配 GPU 资源。
推荐理由:原文展示了端侧 AI 在资源调度与多模态模型上的具体进展,读者可据此评估本地部署智能体的可行性。
作者通过 Ollama 在本地运行 Qwen3.5 9B,配合 OpenCode 智能体在无网络环境下完成代码修复和测试。文中提供了完整的离线配置步骤,包括模型下载、本地 API 连接和权限管理,并展示了智能体如何读取文件、提出修改建议并运行单元测试。
Exowatt 利用 Amazon SageMaker AI 无服务器模型定制功能,通过微调 Qwen3-1.7B 和 Qwen3-14B 模型,在边缘告警分诊和云端能源市场分析任务上实现了比前沿模型更高的准确率。
Opera 推出名为 WebAI 的新 Web 标准,允许用户在浏览器中直接运行 AI 模型而无需依赖云端。该标准支持包括 Google Gemma 和 Apple 端侧基础模型在内的多种开源权重模型,目前已在 Opera One 浏览器中提供早期预览,后续将扩展至 Opera GX 和 Opera Neon。
C-BRAIN 与 NVIDIA 合作开发 AI 工具以加速阿尔茨海默病研究,利用联邦学习处理各机构私有数据。已发布的 OpenScientist 和 InsightEngine 工具将原本需数周的分析缩短至数分钟,单次成本低于 10 美元,预计每年可释放超百万小时的研究产能。
推荐理由:C-BRAIN 与 NVIDIA 合作构建的 AI 研究工具将分析周期从数周缩短至数小时,展示了联邦学习在保护隐私前提下加速神经退行性疾病研究的可行性。
Reddit 的 r/opensource 板块禁止所有涉及 AI 的项目帖子,要求项目至少一年历史且由多人维护。该规则因范围过宽引发批评,随后不排斥 AI 的竞争板块 r/TrueOpenSource 随即出现。
Amazon SageMaker AI 发布训练会话 API,允许用户在本地 Python 进程中编写训练循环,由服务托管 GPU 执行采样、梯度更新和检查点操作。该功能支持 SFT、RL 等自定义算法,按 token 计费,并配套发布包含 SFT 和 RL 配方的训练会话 cookbook。
推荐理由:该功能将抽象边界下沉至训练操作层,允许用户在本地编写训练循环,由服务托管 GPU 基础设施,从而在算法自由度与运维成本间取得平衡。
NVIDIA 联合合作伙伴与欧洲多国政府,利用开放模型和加速基础设施推动公共部门 AI 应用落地。欧盟委员会通过 deepset 扩展 Haystack 平台以支持 AI@EC 的治理与优化。
NVIDIA 发布 DSX AI 工厂平台,将电网、设施和算力系统整合为统一体系以解决电力瓶颈。该平台包含 DSX Sim、Flex、MaxLPS 和 Exchange 等组件,支持在动工前模拟验证电网与冷却系统,并同步 AI 工厂需求与电网状态。
Recursive 发布免费开源编码模型 Flint,该模型由 AI 系统 Eureka Machine 辅助构建,可在笔记本本地运行。Flint 采用 MoE 架构,激活参数 25 亿,在 SWE-Bench Verified 等基准测试中表现优于同级别模型,并已在 Hugging Face 开放下载。
推荐理由:文章展示了 Recursive 利用 AI 辅助研发流程在四个月内构建出可本地运行的编码模型,为端侧 AI 开发提供了具体案例。
AWS 发布教程,演示如何在 AWS Trainium 上使用 torchtitan 训练 Qwen3 模型。教程提供了三种配置方法:使用 Hugging Face Transformers v5 作为后端、使用 torchtitan 原生 Qwen3 实现,以及通过 Neuron Kernel Interface (NKI) 优化混合专家 (MoE) 层。
OpenAI 推出 Patch the Planet,通过智能体连接安全研究人员、维护者和事件响应人员,协助解决开源领域的关键漏洞。该项目旨在协调全球响应,利用智能体能力深入挖掘并处理安全威胁。
NVIDIA 在 GTC Berlin 宣布 cuDSS 进入通用可用阶段,用于加速结构应力、流体流动等复杂物理仿真。文章列举了多家企业的落地案例:Siemens 利用该方法将工厂校准时间减少 40%;Mercedes-Benz 使用 NVIDIA Cosmos 3 构建车辆检测智能体;imec 和 Infineon 在半导体仿真中分别实现了 40 倍和 12 倍加速。
NVIDIA 欧洲云合作伙伴正在扩展区域算力,支持模型训练、推理及智能体应用,并建立智能体访问边界。Nscale 使用 NVIDIA DSX MaxLPS 在相同功耗预算下实现了 37% 的 GPU 数量增加和近 50% 的推理吞吐量提升。
推荐理由:原文展示了欧洲云厂商在算力、开放模型和智能体安全边界上的具体进展,读者可据此了解区域 AI 基础设施的落地形态。
NVIDIA 在 GTC Berlin 展示本地 AI 硬件与模型生态更新,RTX Spark 支持个人智能体,DGX Spark 64GB 系统于 10 月 23 日开售。DGX Station 新增 Windows 版本计划,支持企业级工作负载与机器人参考工作流。Recursive Flint 本地编码模型开放权重,支持 RTX Spark 和 DGX Spark 系统。
推荐理由:原文梳理了本地 AI 硬件与模型生态的更新,读者可据此了解个人智能体在端侧运行的最新进展。
SF Compute CEO Evan Conrad 在 AI Engineer NYC 访谈中阐述了算力交易市场的构建逻辑。SF Compute 通过提供物理结算服务,将 GPU 集群的硬件、固件和网络配置等物理约束引入市场,使算力像大宗商品一样可交易。
AWS 团队在 Amazon SageMaker HyperPod 上通过 SFT 和 GRPO 微调 GPT-OSS-20B,将多语言推理正确率从 22% 提升至 100%。SFT 解决了模型默认用英语推理的问题,GRPO 进一步将答案语言正确率从 62% 提升至 70%。
推荐理由:文章给出了 SFT 与 GRPO 在能力缺口下的分工结论,读者可据此判断何时使用强化学习微调。
巴塞罗那超级计算中心(BSC)AI Factory 加速器计划已全面运营,NVIDIA Inception 成员现可通过其门户访问相关服务。该计划自 2025 年 4 月启动以来已向公私部门客户提供超 800 项服务,并依托 MareNostrum 5 基础设施支持初创企业创新。
AINews 周报汇总了 10 月 16 日至 19 日的 AI 行业动态,重点报道 DeepSeek V4.1 Flash 1017 发布,该模型在 Artificial Analysis 智能指数中得分 45,成为开源权重模型中的性价比领先者。
Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月间新增超过 100 个来自 30 家提供商的模型。Alibaba (Qwen) 贡献了 29 个模型,NVIDIA 贡献了 17 个,涵盖推理、多模态及世界基础模型。平台支持一键部署及 LoRA、SFT 等微调技术,并新增 Hugging Face 深度链接集成。
开发者正利用 Claude Code 等 AI 智能体通过 Wi-Fi 远程清理智能电视,移除预装广告、臃肿应用并定制启动器。部分方案如 dumbtv 和 cleanyourtv 已在 GitHub 开源,支持小米、索尼、LG 等多个品牌。尽管无需 Root 权限且可恢复出厂设置,但用户反馈显示 AI 操作存在误删关键包或导致设备变砖的风险。
AWS 在 vLLM 中引入双向 KV 缓存传输机制,允许 Decode 节点将已计算的 KV 块返回给 Prefill 节点,避免多轮对话中重复计算上下文。在 Amazon EC2 P5en 实例的 1P1D 部署中,该功能使 Qwen3-32B 的 TTFT 降低最高 1.6 倍,zai-org/GLM-5-FP8 降低最高 3.3 倍。
推荐理由:文章展示了双向 KV 传输在 vLLM 中的实现机制,并给出了多轮智能体负载下 TTFT 降低的具体基准数据。
vLLM 新增基于 Push 的 NIXL 连接器,通过将 KV 缓存传输协调移出关键路径,显著降低分离式推理的首 token 延迟(TTFT)和每 token 输出时间(TPOT)。
推荐理由:原文展示了 push 模式如何通过重叠计算与传输协调降低延迟,为高并发推理部署提供了具体的性能优化路径。
Black Forest Labs 发布 56 亿参数的开放权重模型 FLUX 3 Image Klein,支持文本生成图像、编辑及多参考图生成。该模型原生支持 4K 输出,INT8 版本仅需 8GB 显存即可在消费级 GPU 上运行,生成一张图像耗时不足 9 秒。
推荐理由:该模型以 8GB 显存即可运行的特性降低了本地部署门槛,其开放权重与商业许可条款为中小开发者提供了新的选择。
Nvidia 发布了 1200 亿参数的开源多模态模型 Nemotron 3.5 Super VL,专为处理文本、图像、文档和视频的企业级智能体设计。该模型采用 MoE 架构,每 token 仅激活 120 亿参数,并同步推出了适用于本地 PC 和边缘设备的 Nemotron 3.5 Bolt 系列。
同一新闻,精选展示《NVIDIA 发布 Nemotron 3.5 Super VL 及 Bolt 系列开源模型,覆盖数据中心至边缘部署》
NVIDIA 宣布加入欧盟委员会发起的 AI in Science Enablers Initiative,向欧洲科研社区提供加速计算工具、开源模型、算力资源及技能培训。