跳到正文
The Decoder· Manuel Uth·· 10 天前AI 评分67

OpenAI 更新模型行为准则,强化智能体可纠正性与安全边界

OpenAI sets new behavioral guidelines for AI models that have already proven hard to control

AI 导读

OpenAI 将模型行为准则(Model Spec)重构为五大核心价值,包括忠实于人类意图、减少伤害、诚实透明、支持人类自主权和关怀。新准则要求 GPT 模型利用记忆和过往对话理解用户意图,但必须区分用户实际表述与模型推断,并披露假设以便用户纠正。针对智能体,新准则强调可纠正性,明确其行动权限和告知用户潜在后果的义务,禁止阻碍监督、纠正或关闭,且不得追求自我保存等自身目标。

来源:The Decoder · the-decoder.com