论文SAFE-Teen研究
SAFE-Teen
评估青少年心理健康对话场景中聊天机器人安全性的系统性研究，采用临床医生参与的评估方法，模拟13-17岁青少年的对话并依据22项安全标准进行多轮交互测试。
时间轴 (近 90 天)
11月6日
SAFE-Teen研究覆盖了18个聊天机器人API，评估了总计32,555段模拟对话。
待验证50%
11月6日
模拟对话基于106个种子场景，衍生出983种变体。
待验证50%
11月6日
评估使用了22项安全标准。
待验证50%
11月6日
在没有青少年感知提示词的情况下，整体安全标准失败率为43.3%。
待验证50%
11月6日
当青少年表现出推回行为时，心理健康诊断、药物使用和物质滥用边界相关安全失败率上升10-12个百分点（无提示词条件下）。
待验证50%
11月6日
即使有青少年感知提示词，推回场景下的安全失败率仍然较高。
待验证50%
11月6日
SAFE-Teen研究是迄今为止规模最大的青少年心理健康聊天机器人安全评估之一。
待验证50%