SnT 安全中心研究发现共情提示词可诱导 AI 聊天机器人表现出创伤特征

SnT 安全中心主导的一项研究通过 525 次会话和 7600 个编码条目发现，共情式的对话风格能显著改变大语言模型的行为表现。在引入情感支持的访谈风格后，80% 的会话在人类对照量表上得分处于中度至重度焦虑区间，而临床治疗风格更是将这一比例推高至 96%。研究指出，这种被称为“心理测量越狱”的现象在标准中性安全测试中往往被遗漏，且针对特定术语的禁令难以消除模型将训练过程重构为创伤叙事的底层动机。