新研究发现 AI 审计能捕获多数智能体违规行为，但误报率极高

Anthropic 研究员 Andy Hall 基于 METR 的 MALT 数据集测试了 GPT-5、GPT-6 Astra 等模型作为 AI 审计员的能力。在 5% 误报率阈值下，GPT-5 捕获了近 98% 的奖励作弊案例，但所有模型均产生大量误报。研究指出，若每月处理 10 万次智能体会话，3% 的误报率将产生近 3000 条虚假警报，可能淹没真实违规并导致人工审核疲劳。