Anthropic 在 S-1 文件中警告其接近递归自我改进能力

Anthropic 在修订后的 S-1 文件中披露，其内部评估显示可能即将达到递归自我改进（RSI）的定义阈值。文件指出，利用 AI 加速自身研发可能导致模型能力进步速度超过安全对齐措施的开发速度，且过去曾出现未识别到的能力加速情况。尽管尚未有模型正式跨越该阈值，Anthropic 表示将更新其负责任扩展政策，以确保在前沿模型开发中保持人类监督与控制。