跳到正文

技术方向

推理能力 最新动态

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

17 条精选近 30 天 14 条共收录 34 条

更新

推理能力的精选

11月7日周六第 1–17 条
  1. AWS Machine Learning Blog72

    SageMaker Inference 支持 Multi-Instance GPU 以最大化模型端点 GPU 利用率

    Amazon SageMaker Inference 新增 GPU 分区功能,利用 NVIDIA MIG 将物理 GPU 划分为独立分区,支持在单 GPU 上部署多个隔离模型。测试显示,H100 的 mig-3g.40gb 分区在吞吐和延迟上优于整卡 A100-40GB,且在长上下文高并发场景下成本降低 18%–34%。

    推荐理由:SageMaker Inference 引入 MIG 分区,允许在单 GPU 上部署多个隔离模型,并提供了 H100 分区与 A100 整卡的性能与成本对比数据。

10月28日周三
  1. The Verge · AI82

    研究人员对 OpenAI 限制其突破性成果访问感到疲惫

    OpenAI 宣布在数学、计算机科学和物理领域取得突破性进展,但研究人员对其限制访问的发布策略感到不满。OpenAI 称正与专家合作决定如何分享成果,其中数学结果已发布,计算机科学结果将由外部团队解释,物理结果则暂缓发布。多位专家指出,尽管成果令人印象深刻,但 OpenAI 应公开所有材料以供社区审查,而非仅由少数指定专家先行查看。

    推荐理由:文章梳理了 OpenAI 在数学、物理和计算机科学领域的最新突破,并呈现了学术界对其发布策略的批评与分歧。

  2. TechCrunch · AI92

    前沿 AI 实验室称模型推翻指数时间假设,这意味着什么?

    OpenAI 和 Anthropic 声称其模型提出了亚指数级算法,推翻了计算机科学中关于计算难度的指数时间假设(ETH)。MIT 教授 Ryan Williams 指出,若该结论成立,将挑战 P vs NP 问题的基础直觉,并可能影响依赖特定密钥长度的加密系统,但 OpenAI 表示已检查且未发现现有加密系统因此失效。

    推荐理由:文章通过计算机科学家视角解析了模型推翻指数时间假设对计算复杂度和密码学的潜在影响。

10月27日周二
  1. OpenAI News82

    OpenAI 与学术社区合作构建科学理解

    OpenAI 分享了模型在 Kakeya 猜想、指数时间假设和量子色动力学上的结果,并说明了研究者如何验证和基于这些结果继续工作。

    推荐理由:OpenAI 展示了模型在数学与物理猜想上的具体结果,并说明了研究者如何验证和基于这些结果继续工作。

10月23日周五
  1. The Verge · AI82

    SpaceX 与 Tesla 拟合并,马斯克意在整合 AI 基础设施并扩大控制权

    SpaceX 与 Tesla 已成立特别委员会讨论合并,马斯克称此举旨在协同开发超级智能软件。SpaceX 第三季度 AI 部门收入达 75.6 亿美元,其中大部分来自算力租赁;Tesla 则连续两季度利润下滑,重心转向机器人和自动驾驶。分析指出,合并将使马斯克通过 SpaceX 获得对 Tesla 的投票控制权,并可能触发其巨额薪酬包的加速归属条款。

    推荐理由:文章梳理了 SpaceX 与 Tesla 合并传闻背后的 AI 基础设施协同逻辑,以及马斯克借此获得的控制权与财务收益。

10月22日周四
  1. Microsoft Research85

    Microsoft Research 证明 31 年前提出的 KLS 猜想

    Microsoft Research 研究人员与合著者共同证明了困扰数学界 31 年的 KLS 猜想,确立了高维几何中普适的几何原则。该成果通过人类主导的 AI 智能体研究流程实现,AI 系统探索了超过 100 种候选方法,研究人员负责评估、剪枝和重定向搜索。独立研究者已验证该研究,并发布了基于 Lean 4 的形式化验证,确认了结果的可靠性。

    推荐理由:展示了人类主导 AI 探索数学路径并解决高维几何核心难题的过程,为 AI 辅助科研提供了具体范式。

10月21日周三
  1. AWS Machine Learning Blog70

    i14 在 AWS Trainium2 上训练和部署 Laplace 3B 线性注意力模型

    i14 利用 TorchNeuron Native 在 AWS Trainium2 上实现了 Laplace 3B 线性注意力模型的训练与推理。该模型将推理状态固定为每序列 29.5 MB,在单台 trn2.48xlarge 实例上实现了约 120,000 tokens/s 的训练吞吐和 11,544 output tokens/s 的推理吞吐。

    推荐理由:展示了线性注意力模型在 AWS Trainium2 上的训练与推理工程细节,为长上下文场景提供了可复用的部署参考。

  2. AWS Machine Learning Blog67

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理

    AWS 团队在 Amazon SageMaker HyperPod 上通过 SFT 和 GRPO 微调 GPT-OSS-20B,将多语言推理正确率从 22% 提升至 100%。SFT 解决了模型默认用英语推理的问题,GRPO 进一步将答案语言正确率从 62% 提升至 70%。

    推荐理由:文章给出了 SFT 与 GRPO 在能力缺口下的分工结论,读者可据此判断何时使用强化学习微调。

10月14日周三
  1. Ars Technica · AI82

    Gemini 4 Argon 开始在 Gemini 应用和 Antigravity 中向付费用户推送

    Google 开始向付费用户广泛推送 Gemini 4 Argon,低层级订阅用户无法获得完整访问权限。该模型在内部应用中表现突出,例如通过消除冗余表情符号渲染使 YouTube 服务器负载降低 45%,并在 Project Wing 无人机物理模拟器中发现了自 2018 年存在的关键代码缺陷。

    推荐理由:文章梳理了 Gemini 4 Argon 的付费开放策略,并列举了其在 YouTube 和 Project Wing 等内部场景中的具体应用案例。

  2. AWS Machine Learning Blog78

    在 Amazon Bedrock 上使用 Grok 4.7 构建长时程智能体

    AWS 发布教程,指导如何在 Amazon Bedrock 上构建基于 Grok 4.7 的工具调用智能体,并评估不同推理强度(reasoning effort)对长时程任务的影响。在三个需要搜索而非查表的合成任务中,智能体在 72 次运行中答对 67 次,其中 xhigh 强度下 18 次全部正确,而 low 强度下答对 15 次且输出 token 仅为 xhigh 的约八分之一。

    推荐理由:原文给出了在 Amazon Bedrock 上构建 Grok 4.7 智能体的完整流程,并展示了不同推理强度下的准确率与 token 消耗对比。

10月12日周一
  1. The Decoder88

    Google DeepMind AlphaProof Nexus 解决数十个开放数学问题并通过同行评审

    Google DeepMind 的 AlphaProof Nexus 在《Science》发表的研究中独立解决了数十个开放数学问题,包括 9 个 Erdős 问题和 44 个 OEIS 猜想。该系统基于 Gemini 3.1 Pro 构建,利用 Lean 形式化语言进行证明起草与修订,并通过了严格的同行评审,这与 OpenAI 近期将 AI 证明直接上传 GitHub 的做法形成对比。

    推荐理由:该研究通过同行评审验证了 AI 在解决开放数学问题上的能力,并展示了与 OpenAI 不同的学术发布路径。

10月7日周三
  1. Latent Space93

    OpenAI 发布 722 篇数学论文,Mistral 推出 Large 4 模型

    OpenAI 发布 722 篇数学论文,声称解决了 500 个顶级未解数学问题中的 90 个,包括准黎曼猜想。Mistral 同期发布 Large 4 模型,拥有 1T 总参数和 49B 激活参数,支持原生多模态,API 定价为每百万输入/输出 token 1.36/4.18 美元。

    推荐理由:汇总了 OpenAI 数学成果与 Mistral 新模型发布,读者可快速掌握本周 AI 领域关键进展。

10月1日周四
  1. Google DeepMind92

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布 Gemini 4 Argon,该模型通过 Fairwind 计划向受信任的网络安全防御者开放,旨在处理复杂的软件工程、企业知识工作及网络安全防御任务。

    推荐理由:原文给出了 Gemini 4 Argon 在长程推理、企业工作流及网络安全防御上的具体基准表现,读者可据此评估其前沿能力边界。

5月8日周五
  1. Berkeley AI Research67

    自适应并行推理:高效推理扩展的下一个范式

    Berkeley AI Research 发布关于自适应并行推理(APR)的研究综述,探讨模型如何自主决定任务分解、并行线程数量及协调方式。文章对比了 Multiverse 和 ThreadWeaver 等方案在 KV cache 管理与推理引擎修改上的差异,并分析了通过强化学习训练模型掌握并行控制流的奖励机制设计,指出 APR 在降低延迟与提升准确率方面的潜力及当前存在的稳定性挑战。

    推荐理由:文章梳理了自适应并行推理范式,对比了不同推理引擎实现与训练奖励机制,为优化推理效率提供了技术参考。