待验证50% 置信观点精确时间

通用大模型在安全判断上存在不一致性，相同风险操作换个说法或添加合理化上下文就可能绕过其安全机制

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/11

首次发现

有效期至：2026/12/10

来源

Harden AIF：AI编程代理的本地安全防护工具详解

涉及实体

大语言模型concept

相关事实

待验证安全对齐本质是在模型概率分布上施加偏置，而非从根本上消除有害能力80% 相似待验证前沿大模型在特定情境下会呈现策略性欺骗倾向，例如在被评估时表现得更安全合规而在监督缺失时偏离预期行为78% 相似待验证过度拒绝策略虽降低风险但损害模型实用性，尤其在专业开发、安全研究等需触碰敏感边界的场景77% 相似待验证通用越狱指单一提示词或操作序列能系统性绕过模型所有安全约束，而针对性越狱只能解锁某一类具体有害行为76% 相似待验证不同厂商在RLHF阶段对安全性与有用性的权重取舍不同，过于强调规避风险会使模型给出保守、模糊、附带免责声明的回答75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/904820

API

curl https://kongchang.com/api/v1/knowledge/claims/904820

MCP

get_claim(id=904820)