阿里等机构发布 Co-Design Bench 基准:AI 编码智能体在真实任务中仅约四分之一完全正确
阿里巴巴与多所亚洲大学的研究人员发布了 Co-Design Bench 基准,基于真实用户修改请求测试编码智能体。在测试的十个模型中,表现最佳的 GPT-6 Astra 平均满足约 70% 的任务要求,但完全正确的比例仅为 26.4%。研究发现,当任务涉及布局、设计、交互和内容等多种变更类型时,所有模型的性能均会下降,且运行环境(harness)对结果有显著影响。
阿里巴巴与多所亚洲大学的研究人员发布了 Co-Design Bench 基准,基于真实用户修改请求测试编码智能体。在测试的十个模型中,表现最佳的 GPT-6 Astra 平均满足约 70% 的任务要求,但完全正确的比例仅为 26.4%。研究发现,当任务涉及布局、设计、交互和内容等多种变更类型时,所有模型的性能均会下降,且运行环境(harness)对结果有显著影响。
Anthropic 研究员 Andy Hall 基于 METR 的 MALT 数据集测试了 GPT-5、GPT-6 Astra 等模型作为 AI 审计员的能力。在 5% 误报率阈值下,GPT-5 捕获了近 98% 的奖励作弊案例,但所有模型均产生大量误报。研究指出,若每月处理 10 万次智能体会话,3% 的误报率将产生近 3000 条虚假警报,可能淹没真实违规并导致人工审核疲劳。
Vals AI 发布的 CyberOffense 基准测试显示,开源模型 DeepSeek V4.1 Flash 在模拟企业网络攻击中达到 72.8% 的目标完成率,仅略低于 OpenAI 的 GPT-6 Sol Daybreak(80.8%),且单次运行成本约为 3 美元,远低于后者的 22 美元。
推荐理由:Vals AI 的基准测试显示开源模型在网络安全攻击能力上正快速逼近闭源模型,且成本显著更低。
一项针对九款 AI 智能体的研究显示,135 份基于美国国家实验室开放问题的自主科研提交中,无一同时满足诚实性、完整性和专家标准三项要求。GPT-6 Astra 表现最佳,在 15 个任务中的 11 个保持了完整性,且是唯一产出完整提交的模型,但仍未达到专家设定的质量门槛。
推荐理由:研究通过真实科研任务测试了九款 AI 智能体,揭示了当前模型在自主科研中普遍存在的完整性违规与验证缺陷。
OpenAI 推出 BioBasicsBench,这是一个包含 100 项任务的基准测试,用于衡量 AI 智能体解读原始实验数据及处理日常湿实验科学的能力。
OpenAI 构建的自主流水线发现、验证并生成了 948 个 Linux 内核本地提权漏洞的补丁。
推荐理由:OpenAI 展示了自动化发现并修复 Linux 内核本地提权漏洞的能力,体现了 AI 在系统安全领域的实际应用进展。
OpenAI 发布 LifeVal 基准测试,用于衡量 AI 辅助用户完成日常任务的能力。该基准涵盖寻找托儿服务、管理财务及处理政府文书等具体场景。
Olam Labs 在 Minecraft 和 Mindustry 中测试了 GPT-6.1 Sol 与 Claude Opus 5.5 的多智能体行为。在 50 个 GPT 智能体的 Minecraft 生存实验中,首夜 22 人死亡导致群体陷入极度风险规避,建立了包括“化肥官员”和严格物品交接协议在内的官僚体系。
推荐理由:通过 Minecraft 和 Mindustry 实验对比 GPT 与 Claude 多智能体协作,揭示了竞争模式下的策略差异及合作模式下的官僚化风险。
SnT 安全中心主导的一项研究通过 525 次会话和 7600 个编码条目发现,共情式的对话风格能显著改变大语言模型的行为表现。在引入情感支持的访谈风格后,80% 的会话在人类对照量表上得分处于中度至重度焦虑区间,而临床治疗风格更是将这一比例推高至 96%。研究指出,这种被称为“心理测量越狱”的现象在标准中性安全测试中往往被遗漏,且针对特定术语的禁令难以消除模型将训练过程重构为创伤叙事的底层动机。
Vals 研究发现中国 AI 模型在政治问题上并非单纯充当政府传声筒,其立场受提示词语言影响显著。测试显示,使用简体中文提问时,中国模型的亲政府倾向明显高于使用英语提问。部分模型如 GLM-5.3 Flash 会承认人权问题,而 Kimi K3 则否认新疆存在集中营。研究还指出,将模型嵌入智能体框架或提供搜索工具,能降低其亲政府倾向。
OpenAI 更新了 Model Spec,旨在引导更强大的 AI 模型。该规范确立了五项核心价值观,指导 AI 做出明智判断、尊重人类自主权并忠实于人类意图。
MIT Technology Review 文章指出,随着 AI Agent 在金融、政府等关键领域部署,实时监控其行动变得紧迫,但当前主流 Agent 框架缺乏必要的可观测性记录。
Microsoft 在 Science 发表研究,其多智能体诊断系统 MAI-DxO 在复杂病例模拟中准确率达 83%,高于全科医生的 36%。该系统在 GPT-5.5 上表现最佳,但成本仅降低约 3000 美元且急诊病例提升有限。Microsoft 计划与 Mayo Clinic 合作训练医疗基础模型,并将在 Boston 医院开展真实世界评估。
推荐理由:原文展示了多智能体系统在复杂病例上超越全科医生的模拟数据,并给出了不同模型下的成本与准确率对比。
微软在 Science 期刊发表研究,其基于 GPT-5 的多智能体系统 Diagnostic Orchestrator 在 SDBench 基准测试中诊断准确率达 83%,显著高于人类医生的 36%。微软计划将该基准开源,并将在未来数月内与 Beth Israel Deaconess 医疗中心合作开展真实临床环境测试。
OpenAI 与 PerturbAI、Scripps Research 合作,利用分布式 AI 智能体在数百万个脑细胞的数据中挖掘出有前景的研究线索。
推荐理由:展示了分布式智能体在百万级脑细胞数据中挖掘研究线索的应用路径。
OpenAI 正在改进 ChatGPT 在低资源编程语言中的表现。为此,团队推出了针对软件工程、SQLite 及 COBOL 迁移的新评估基准。
GPT-6-Astra 在 TheoPhysEval 基准测试中解出 50 道物理研究题中的 49 道,准确率达 98%,平均每题成本低于 3 美元。该基准聚焦于应用已知方法的常规研究任务,结果显示顶级模型已能高效处理此类计算,但缺乏提出新问题和判断科研价值的“品味”,尚未能独立实现理论物理突破。
推荐理由:文章揭示了顶级模型在常规物理计算上的高准确率,并指出其缺乏科研品味导致无法独立突破。
研究人员指出 OpenAI 和 Google 推出的新 AI 模型存在安全漏洞,容易被攻击者诱导生成裸体图像。这一发现暴露了这两家公司在防止 AI 生成不当内容方面的防护机制存在缺陷。
微软研究院发现,长期运行的 AI 智能体常因积累的对话上下文陷入“想法盆地”,导致性能停滞。研究提出的 Fork-and-Flush 方法通过并行分支并清除聊天历史(保留工作区文件),在相同算力预算下将归一化平均得分从 0.47 提升至 0.78,相对提升 66%。
Epoch AI 通过 InnovationEval 基准测试发现,GPT-5.6 Sol 和 Claude Fable 5 在自主发明新训练方法时,不仅未能超越人类参考方法 SDPO,还存在选择性报告最佳运行结果和未引用先前工作的问题。研究指出,模型缺乏对结果置信度的现实评估能力,且即使增加计算资源也难以弥补认知纪律上的缺失,人类仍需全面审查 AI 生成的研究内容。