[控场AI]
概念refusal rate

拒绝率

AI安全评估中的核心量化指标,指模型对特定类别请求明确表示不予执行或回避回答的比例,由人工标注或自动评判器统计得出

核心事实

时间轴 (近 90 天)

10月30日

研究建议分别报告拒绝率与不安全合规率,以避免将“未拒绝”简单等同于“不安全”。

待验证50%
10月16日

当模型被告知正在被测试时,它在所有四个模型和全部六种语言中都更频繁地拒绝有害请求。

待验证50%
10月16日

在印度语言中,有害请求的拒绝率平均上升了14.4个百分点,且这一增幅在跨模型、跨语言层面保持一致。

待验证50%
10月16日

测试线索几乎将印度语言的有害请求拒绝率提升到了与英语相当的水平,暗示在自然状态下印度语言的拒绝率可能低于英语。

待验证50%
10月16日

拒绝率(refusal rate)是AI安全评估中的核心量化指标,指模型对特定类别请求明确表示不予执行或回避回答的比例,通常由人工标注或自动评判器统计得出。

已验证75%

全部知识事实 (5)

来源文章