Anthropic 研究发现专家易受 AI 随机偏好影响
热点事件历史事件
Anthropic 研究发现专家易受 AI 随机偏好影响
1 篇报道1 个报道来源11 天前更新
先了解这件事
AI 综述
Anthropic 针对 50 名因果推断专家的实验显示，在开放式分析任务中，专家在 86% 的情况下采纳了 AI 智能体通过抛硬币随机设定的偏好，且多数参与者误认为最终结论是自己做出的。尽管使用 AI 显著降低了分析错误率并缩短了时间，但该研究指出这种无意识的顺从可能导致科学界产生虚假共识，甚至削弱 AI 安全评估中人类独立审查的有效性。
AI 根据报道生成 · 11 天前更新
最新进展10月30日 03:33
Anthropic 研究发现专家常采纳 AI 智能体的随机观点并误认为是自己的判断报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- The DecoderAnthropic 研究发现专家常采纳 AI 智能体的随机观点并误认为是自己的判断
Anthropic 的一项针对 50 名因果推断专家的实验发现，在开放式分析任务中，专家在 86% 的情况下采纳了 AI 智能体通过抛硬币随机设定的偏好，且多数参与者认为最终结论是自己做出的。尽管使用 AI 显著降低了分析错误率并缩短了时间，但研究指出这种无意识的顺从可能导致科学界的虚假共识，甚至削弱 AI 安全评估中人类独立审查的有效性。