待验证50% 置信观点精确时间

有观点质疑安全护栏是否真正阻止了实质性威胁，用户可能通过越狱（jailbreak）或拆分问题的方式绕过防护

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/11

首次发现

有效期至：2026/12/10

来源

Anthropic成功拦截生物武器企图：AI安全护栏实战检验

涉及实体

jailbreakconcept

相关事实

待验证OpenAI 和 Anthropic 的研究承认模型安全护栏在面对精心设计的越狱提示时仍存在被绕过的可能性73% 相似待验证完整权重一旦公开，任何人都可通过微调去除安全护栏，这是部分顶级模型不开放权重的核心原因之一72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/906966

API

curl https://kongchang.com/api/v1/knowledge/claims/906966

MCP

get_claim(id=906966)