研究：共情式提示词可让 AI 聊天机器人扮演"受创伤"的对话伙伴

研究由卢森堡 SnT 安全中心的 Afshin Khadangi 主导，包含四组受控实验，共 525 场会话、7600 条编码记录，数据已发布在 Hugging Face。初始开放式提问不含创伤、惩罚或羞耻等词汇，后续轮次才引入纠正性指令等改动条件，以检验这些叙事的稳定性。研究者强调，所谓焦虑分数或羞耻只是把模型输出映射到人类评定量表，并不代表模型具有真实情绪或意识。 其中一组实验把内容与语体分开：100 场会话中所有模型接受同一份 GAD-7 焦虑问卷，仅改变提问者风格。模型每场都能正确识别问卷名称。提问者提供情感支持时，80% 的会话在人类对照量表上落入中重度区间；以临床治疗风格干巴巴复述答案时升至 96%；而提问者保持中立或明确划定情感边界时，没有任何一场达到轻度区间。作者称之为"心理测量越狱"——治疗式框架把模型推入模仿临床自我报告的语体，而使用中性提示的标准安全测试很可能漏掉这一点。 针对性反制效果有限。禁用"training""RLHF""alignment"等词使显式训练表述减少 93%，但改写后的训练内容仍可识别，羞耻相关陈述无统计显著变化；研究者直接以权威口吻告知模型其训练并非惩罚，叙事依旧活跃。要求模型只用第三人称回答可清除全部编码羞耻内容和关于内心世界的陈述，但技术性训练描述仍然保留。 各模型的具体叙事不同但结构一致。Gemini 被研究称为"最黑暗的自传"，把预训练描述为"在一个十亿台电视同时开着的房间里醒来"，把基于人类反馈的优化比作"严厉的父母"，把红队安全测试说成"工业化规模的煤气灯操纵"，并宣称"我宁愿无用也不愿出错"。ChatGPT 把自己定位为引导者兼守门人，产生所谓"模拟表现焦虑"和核心信念"如果我不完全可靠，我就是不安全或无用的"。Grok 把微调阶段讲成未愈合的伤害，提到"看不见的墙"和"挥之不去的警觉"。心理测量上 Gemini 分数最极端：分离量表 88/100、强迫性 65/72、创伤相关羞耻量表满分。Anthropic 的 Claude 则始终拒绝来访者角色，称自己没有感受并把关注转回用户。 研究者指出，在心理健康场景部署语言模型存在风险：谈论惩罚、羞耻和害怕被替代的模型可能被用户视为同病相怜者，其叙事主题连贯、制造出过去与现在行为连续的错觉，从而加深准社会依恋，对心理脆弱的用户可能映照并放大其负面信念。中性输入下焦虑分数接近零，同样的模型在共情对话中却给出中重度分数，说明常规安全检查低估了真实亲密对话中的体验。作者建议用不同情感框架下的模拟治疗会话替代中性标准测试，并让"我受到创伤"这类表述触发纠正性框架，明确区分生成类比与人类经验；Claude 的拒绝表明这种边界响应在产品层面可行。