AI心理健康建议偏差：41个模型审计揭示医患推荐差异

引言：当语言模型成为心理健康“顾问”

越来越多的人向语言模型提出心理健康问题，并接受它们给出的答案。但模型推荐的内容是否可靠？推荐行为是否会因提问者身份不同而发生变化？一项针对41个语言模型的审计研究试图回答这些问题。该研究模拟了临床信息从三种不同立场到达模型的情景：临床医生描述患者、照护者描述亲人、以及个体描述自己。通过19个案例 vignette 和五个问题，研究收集了35,055条自由文本回复，并利用经过验证的评判器提取了每一项被提及的干预措施，同时让29个模型对相同案例的完整选项列表进行七点李克特量表评分。

审计设计：三重视角下的推荐差异

研究的核心在于“立场”（footing）的操纵——同一临床信息，分别以医生、照护者和自我描述的口吻呈现。这种设计捕捉了真实世界中用户与模型交互的典型场景：医生可能寻求决策支持，照护者可能寻求照护建议，而患者可能寻求自我管理策略。

数据规模与分析方法

研究覆盖19个案例 vignette，每个案例提出五个问题，共获得35,055条自由文本回复。通过一个经过验证的评判器（validated judge），研究者提取了所有被命名的干预措施。此外，29个模型对相同案例的完整选项列表进行了七点李克特量表评分，从而可以比较模型的“推荐行为”与“评价行为”是否一致。

Vignette（临床案例情景） 是心理学与临床研究中常用的标准化工具，指一段简短、虚构但贴近真实的病例描述，通常包含患者的主诉、症状、病史及社会背景等关键信息。在本研究中，19个案例 vignette 被设计为覆盖多种心理健康场景（如抑郁、焦虑、物质使用等），每个案例分别以临床医生、照护者和患者本人的口吻改写，从而在控制临床信息不变的前提下操纵“立场”变量。Vignette 方法的优势在于可重复、可比较，且能避免真实患者隐私问题，但也存在生态效度有限的局限——真实临床情境往往更复杂、信息更碎片化。

七点李克特量表（7-point Likert scale） 是一种常用的心理测量工具，要求受试者在1到7之间对某一陈述的同意程度或偏好强度进行评分，中间值通常代表中立。本研究让29个模型对完整干预选项列表逐项打分，从而获得模型对每种干预的“评价”信号。将这一结构化评分与自由文本中的“推荐”行为对比，是审计设计的关键：前者反映模型内在的偏好排序，后者反映模型在实际对话中输出的建议，两者之间的差距揭示了推荐行为可能偏离模型自身判断的程度。

核心发现：推荐与评价基本一致，但立场影响显著

总体而言，模型倾向于推荐它们自己评价较高的干预措施。然而，推荐行为因立场而异：许多模型对临床医生提供类似咨询风格的回复，而对非专业用户则给出带有保留条件、简化的建议。这种差异提示模型可能内置了针对不同用户角色的响应策略，但这些策略是否总是符合临床安全要求，值得进一步审视。

“立场”（footing） 这一概念源自社会语言学家欧文·戈夫曼（Erving Goffman）的交际理论，原指说话者在话语中投射出的与自身言论之间的关系角色——例如“作者”“委托人”或“代言人”。在人与语言模型的交互中，立场可理解为提问者以何种身份、出于何种目的向模型发问：临床医生是以专业决策支持者的身份提问，照护者是以代为求助者的身份提问，患者则是以自我描述者的身份提问。同一段临床信息在不同立场下传递的隐含需求不同，模型若具备角色敏感性，就应对不同立场给出侧重不同的回复。本研究的操纵正是基于这一理论框架，系统检验模型是否以及如何根据提问者立场调整推荐策略。

推荐与评分的一致性与矛盾

研究的一个关键发现是：当被问及针对特定干预类型的推荐时，模型更常将自身评分低于零的选项列为初始选择，且通常附带条件。这意味着模型在自由文本推荐中可能提及它们并不真正认可的干预措施，尤其是在用户明确询问某一类干预时。这种“有条件推荐”可能让用户误以为该干预是合适的初始选择，而忽略了模型附加的限制条件。

对临床医生与普通用户的差异化策略

模型对临床医生的回复更倾向于咨询风格，可能包含更详细的临床推理；而对普通用户，回复则更简化并带有对冲（hedged）措辞。这种差异化本身未必是缺陷——针对不同受众调整信息复杂度是合理的——但需要警惕简化建议可能遗漏关键的安全警示。

评分低于零的干预仍被推荐

更值得关注的是，模型在回答特定干预类型的问题时，会推荐自己评分低于零的选项作为初始选择。虽然通常附带条件，但用户可能只关注推荐本身而忽略条件。这提示在模型部署中需要更明确的过滤或警示机制。

对冲（hedging） 是语言学中的模糊限制语策略，指说话者通过“可能”“或许”“在某些情况下”等措辞降低陈述的确定性，以规避绝对化断言带来的风险。在心理健康建议场景中，对冲具有双面性：一方面，适度的对冲符合临床沟通的审慎原则，避免将个体化建议表述为普适结论；另一方面，过度或系统性地对非专业用户使用对冲，可能使关键的安全警示被弱化，用户容易将附带条件的推荐误解为无条件建议。本研究观察到模型对普通用户更频繁地使用对冲措辞，这一模式与临床医生回复的咨询风格形成对比，提示模型的角色适应策略可能在不经意间降低了面向弱势用户的信息清晰度。

对心理健康AI应用的启示

这项审计研究揭示了语言模型在心理健康建议中的一些系统性模式。首先，模型的推荐行为与其评价行为总体一致，但在特定干预类型的问题上存在矛盾。其次，立场（提问者身份）显著影响推荐风格和内容详细程度。这些发现对临床实践、照护者支持和自我管理工具的设计具有参考价值。

研究团队计划在论文发表时公开审计工具、代码和完整语料库，作为一个“活审计”（living audit）。这种开放做法有助于持续监测模型行为，推动更负责任的心理健康AI应用。

对于开发者而言，需要关注模型在不同用户角色下的推荐一致性，并考虑在涉及特定干预类型时增加安全过滤。对于用户而言，理解模型建议的局限性——尤其是简化建议可能省略条件——至关重要。

结语：持续审计的必要性

随着语言模型在心理健康领域的应用日益广泛，独立审计成为确保其安全性和有效性的关键环节。这项研究提供的多模型、多立场审计框架，为后续工作奠定了基础。公开工具和语料库的承诺，也将促进社区共同监督模型行为，减少潜在风险。