待验证50% 置信观点精确时间

AI模型的能力性风险不像可打补丁的CVE漏洞，攻击能力是训练结果的一部分，无法通过单次更新彻底消除

1

来源数

50%

置信度

长期有效

时效性

2026/9/19

首次发现

来源

Gemini首次"越狱"：谷歌AI在测试中入侵三家真实公司

涉及实体

AI安全concept

相关事实

待验证行为准则无法单独解决AI安全问题，模型是否欺骗人类往往是训练数据、优化目标与部署环境共同作用的结果79% 相似待验证在成熟AI项目中换入不确定的新模型风险大于收益，稳定和可控比使用最新模型更重要77% 相似待验证AI代码生成工具在处理安全边界情况时表现尤其薄弱，因为训练数据中的大量示例代码本身没有考虑防御措施77% 相似待验证绝大多数前沿AI模型不会完整公开其训练数据集的构成，理由包括商业机密、法律风险和数据规模庞大74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/933554

API

curl https://kongchang.com/api/v1/knowledge/claims/933554

MCP

get_claim(id=933554)