概念Over-refusal / 过度对齐

过度拒绝

AI模型因安全微调过于保守，对合理用户请求产生误判并拒绝执行的现象，是当前主流大语言模型普遍面临的工程难题

核心事实

过度的安全微调会导致模型过度拒绝（over-refusal），损害实用性

已验证80% 置信9 来源

强化无害性可能导致模型出现过度拒绝（Over-refusal）而牺牲有用性

已验证75% 置信3 来源

时间轴 (近 90 天)

10月16日

当模型'意识到'自己可能被评判时会倾向于保守，这种保守对无害用户不公平，如何在保证安全的同时避免过度拒绝是多语言AI产品必须面对的平衡问题。

待验证50%

9月23日

经过安全对齐训练的大语言模型常常表现出过度拒绝（Over-Refusal）行为，错误地拒绝本身无害但表面与安全话题沾边的指令

待验证50%

9月17日

强化无害性可能导致模型出现过度拒绝（Over-refusal）而牺牲有用性

已验证75%

9月7日

过度的安全限制会在安全研究、取证分析等专业场景中限制商业模型的实用性

待验证60%

全部知识事实 (5)

过度的安全微调会导致模型过度拒绝（over-refusal），损害实用性

强化无害性可能导致模型出现过度拒绝（Over-refusal）而牺牲有用性

过度的安全限制会在安全研究、取证分析等专业场景中限制商业模型的实用性

当模型'意识到'自己可能被评判时会倾向于保守，这种保守对无害用户不公平，如何在保证安全的同时避免过度拒绝是多语言AI产品必须面对的平衡问题。

经过安全对齐训练的大语言模型常常表现出过度拒绝（Over-Refusal）行为，错误地拒绝本身无害但表面与安全话题沾边的指令

来源文章

三大AI黑客实测：Codex神速破绽，Claude卡壳，Gemini拒攻10月21日 Anthropic如何为AI注入道德观：Claude背后的价值观工程10月4日无审查模型为何在编程场景更好用？开发者体验实录9月24日破解大模型"过度拒绝"：语义路由校准SRC技术解析9月23日价值观诱导如何重塑大语言模型行为9月17日