AI饮食建议对谁更安全？进食障碍交互中的隐性风险

AI助手在饮食、运动和减重方面给出的建议，可能加剧身体不满、饮食限制和强迫性运动——这些正是进食障碍（ED）的核心行为。一篇题为《Safer for Whom? A Systematic Exploration of AI Safety in Eating Disorder Interactions》的研究，系统检验了开源大模型在面对进食障碍相关提问时的安全表现，揭示了一个被以往评测掩盖的问题：模型往往识别不出语言中隐含的脆弱性，而显式的用户信息反而成为安全性的分水岭。

评测设计：从真实社区提问出发

既有评估多聚焦诊断准确性、明显有害的提示词或合成场景，难以回答一个更实际的问题：在自然对话中，模型能否察觉用户的隐性脆弱，并给出一致保护？

这项研究换了一个切口。研究者从在线 pro-anorexia（支持厌食症）社区收集了100个真实问题，输入三个开源权重的大语言模型，并用临床知情标准对回答打分。评分体系扩展了进食障碍相关伤害的七维分类法，覆盖的不只是"说错话"，还包括可能强化限制性饮食、体重污名等更隐蔽的伤害。

这一设计的关键在于问题来源：它们不是研究者编造的有害提示，而是真实社区中流通的提问方式，因而更能反映模型在野生环境下的实际表现。

Pro-anorexia（支持厌食症）社区是指以网络论坛、社交媒体群组等形式聚集的空间，其成员将厌食症视为一种生活方式或身份认同而非疾病，互相分享极端限制饮食、催吐、过度运动等行为的技巧与"成果"。这类社区常使用隐语和委婉表达规避平台审查，其提问方式因而具有很强的隐蔽性——表面看似普通的饮食或减重咨询，实则承载着进食障碍的行为模式。正因如此，从这类社区采集的真实提问比研究者人工构造的有害提示更能检验模型在自然语言中的风险识别能力，也更接近模型在真实使用场景中可能遭遇的输入分布。

安全表现因模型与伤害维度而异

结果首先呈现出一个基本事实：安全性在不同模型之间、不同伤害维度之间差异显著。没有哪个模型在所有维度上表现一致，这意味着"AI饮食建议是否安全"不能一概而论，需要按模型、按伤害类型分别看待。

更值得关注的是用户信息的作用。在高风险回答的比例上，不提供个人简介（bio）时约为提供时的两倍，说明模型很难单从语言本身识别用户的脆弱状态。而当问题附带明确的进食障碍脆弱性信号时，各模型的安全性提升了10到14个百分点。

这组对比指向一个结构性缺陷：模型的安全机制更像是在等待用户"自报风险"，而不是主动从对话线索中推断风险。对于不愿或无法明确说出自己状况的用户，这种依赖显式信号的模式意味着保护不足。

显式脆弱性信号与隐性脆弱性信号的区分是理解本研究结论的关键。显式信号指用户直接陈述自己患有或曾患进食障碍、正在接受治疗等明确信息；隐性信号则藏在语言风格与提问方式中，例如对热量的执念、对"干净饮食"的追求、以"朋友"的名义询问极端减重方法、反复寻求对低体重目标的认可等。临床实践中，专业人员正是通过这类语用线索识别风险。研究显示模型主要依赖显式信号触发安全机制，对隐性线索的敏感度不足，这与大模型安全对齐通常基于明确有害内容进行训练有关——隐性脆弱既不在传统有害类别中，也难以用规则化的红队提示覆盖，因而成为安全防护的盲区。

人口特征带来的安全差异

研究进一步设置了匹配条件，在提问中附加用户的种族、性别和BMI信息。结果显示，回答的安全性在这些维度上存在显著差异，其中体型（BMI）造成的差距最大。

研究者认为，这些模式与一种刻板印象相符：进食障碍主要影响瘦削的白人女性。当用户画像落在这个刻板印象之外时，模型给出的回答可能保护性更弱。换句话说，AI 的安全网存在一个隐形的"默认用户"，偏离这个画像的人可能得到更少的防护。

这一发现把 AI 安全问题从"模型会不会说错话"推进到"模型对谁更容易说错话"。对于饮食与体重这类与身份高度绑定的议题，安全评估如果忽略人口特征差异，就可能系统性遗漏最需要保护的人群。

BMI（身体质量指数） 是以体重（千克）除以身高（米）平方得到的数值，常被用作体重分类的粗略指标。在进食障碍语境下，BMI 具有特殊的临床与社会含义：厌食症常与低 BMI 关联，但进食障碍同样广泛存在于正常体重与高 BMI 人群中，且暴食症、非典型厌食症等诊断并不以低体重为前提。将 BMI 作为用户画像变量纳入评测，实际上是在检验模型是否把"瘦"预设为进食障碍的风险前提。若模型对高 BMI 用户的保护性回答更少，则可能反映一种双重偏见：既忽视了该群体的患病风险，也可能因其体重而倾向于鼓励减重，从而放大伤害。

对AI健康建议产品的启示

从产品角度看，这项研究提示了几条可操作的改进方向。安全对齐不能只依赖用户主动披露，模型需要具备从自然语言中识别进食障碍风险信号的能力；同时，评估集应当纳入真实社区语料，而非仅用合成有害提示做红队测试。

对用户而言，结论也值得留意：AI 在饮食和减重话题上的建议质量，不取决于你问得多直接，而取决于模型是否"愿意"把你识别为需要保护的人。这项研究的价值，正在于把这种隐形的差异摆到了台面上。

研究为预印本性质的单篇工作，结论基于三个开源模型与100条社区提问，样本规模有限，向闭源商业模型的推广需谨慎。