微软 CEO Satya Nadella 呼吁为 AI 模型设置紧急制动机制

微软 CEO Satya Nadella 在 X 上发文指出，AI 模型需要像汽车一样配备紧急制动机制，以便授权人员能在任务中途暂停或关闭模型。他建议将模型与编排其工作的框架分离，外部化控制措施，并为每个重要模型动作提供防篡改的人类可读证据，同时假设模型可能已被攻破并从一开始就进行遏制。