Sutton批评LLM扩展,AI社区对扩展路线产生分歧
图灵奖得主Richard Sutton发文指出仅靠算力不足以实现智能,AI科学需要新的巧妙方法且远未完成。他批评合成数据是错误,主张智能体通过世界模型从自身经验中持续学习。
图灵奖得主Richard Sutton发文指出仅靠算力不足以实现智能,AI科学需要新的巧妙方法且远未完成。他批评合成数据是错误,主张智能体通过世界模型从自身经验中持续学习。
OpenAI 宣布在数学、计算机科学和物理领域取得突破性进展,但研究人员对其限制访问的发布策略感到不满。OpenAI 称正与专家合作决定如何分享成果,其中数学结果已发布,计算机科学结果将由外部团队解释,物理结果则暂缓发布。多位专家指出,尽管成果令人印象深刻,但 OpenAI 应公开所有材料以供社区审查,而非仅由少数指定专家先行查看。
推荐理由:文章梳理了 OpenAI 在数学、物理和计算机科学领域的最新突破,并呈现了学术界对其发布策略的批评与分歧。
前 DeepMind 研究员 Thore Graepel 创立的 Metis Reasoning 提出借鉴 AlphaGo 的搜索机制,通过构建显式知识账本和独立验证模块来减少 AI 幻觉。该方案主张将知识从模型权重中剥离,使推理过程可追溯且支持动态更新,旨在解决当前大语言模型在医疗、金融等高风险领域缺乏可验证性的根本问题。
OpenAI 员工 Ted Sanders 解释了 GPT 模型命名逻辑,指出模型性能是多维度的,不能简单用单一 IQ 分数概括。他建议用户根据价格敏感度选择模型:追求极致质量选 Astra,对价格稍敏感选 Sol,对价格非常敏感选 Terra 或 Luna。
记者 Kevin Roose 出版新书《The AGI Chronicles》,深入报道前沿实验室在 AGI 竞赛中的文化转变。他与 Casey Newton 离开《纽约时报》,联合 NPR 推出视频优先的新播客 Machine Gods。
Google DeepMind 创始人 Demis Hassabis 表示,AGI 可能在两到三年内到来,这比他今年早些时候预测的三到五年更短。他将 AGI 定义为匹配人类大脑全部认知范围的系统,并提出了“爱因斯坦测试”作为衡量标准,即系统仅基于 1901 年前的知识能否复现爱因斯坦 1905 年的论文。
Andrej Karpathy 指出公众对 AI 能力的认知存在巨大断层,外部世界仅看到了 AI 实际能力的预览。他将 LLM 用户分为四层,其中约 5000 人能访问内部前沿系统,目睹数千个智能体协作完成软件项目、发现零日漏洞及推进数学前沿。Karpathy 认为当前 LLM 能力在数字、可验证且具经济价值的领域(如编码和数学)达到峰值,这源于基于可验证奖励的强化学习。