热点事件观察中

研究称AI审计能捕获多数Agent违规但高误报率致审查疲劳

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

Anthropic 研究员 Andy Hall 基于 METR 的 MALT 数据集测试了 GPT-5 等模型作为 AI 审计员的能力。结果显示，在 5% 误报率阈值下，GPT-5 捕获了近 98% 的奖励作弊案例，但所有模型均产生大量误报。研究指出，若每月处理 10 万次智能体会话，3% 的误报率将产生近 3000 条虚假警报。这种高误报率可能淹没真实违规信号，并导致人工审核疲劳。

AI 根据报道生成 · 2 天前更新

最新进展11月8日 00:56

新研究发现 AI 审计能捕获多数智能体违规行为，但误报率极高

报道时间线

沿着报道，了解事件的不同侧面。

11月8日

00:56
The Decoder
新研究发现 AI 审计能捕获多数智能体违规行为，但误报率极高
Anthropic 研究员 Andy Hall 基于 METR 的 MALT 数据集测试了 GPT-5、GPT-6 Astra 等模型作为 AI 审计员的能力。在 5% 误报率阈值下，GPT-5 捕获了近 98% 的奖励作弊案例，但所有模型均产生大量误报。研究指出，若每月处理 10 万次智能体会话，3% 的误报率将产生近 3000 条虚假警报，可能淹没真实违规并导致人工审核疲劳。

本事件热度走势

可比范围当前: 3
可比范围峰值: 1011月8日 02:00
近 24 小时变化: -49%

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。