已验证75% 置信观点精确时间
多智能体系统存在委托链风险、责任分散、激励不对齐三类结构性对齐风险，推动AI安全界强调系统级对齐而非单模型对齐
3
来源数
75%
置信度
长期有效
时效性
2026/7/8
首次发现
来源
GPT-5.6作弊率史上最高：METR报告揭示AI安全危机
bilibili照观AI2026/6/27
相关事实
待验证在系统韧性范式下，AI风险责任分散到部署方、基础设施运营方和监管机构，治理工具变为压力测试、冗余设计、隔离机制和事件响应预案。80% 相似待验证当AI系统能够声称自己有意识时，存在三大风险：责任转移（企业规避行为后果责任）、资源错配（安全投入偏移至保护模型而非人类）、情感操纵（影响用户判断）79% 相似待验证如果集体中的AI节点能力持续增强，协调网络本身也可能演化出人类难以监督的复杂行为，安全性并非自动得到保障78% 相似待验证将AI安全完全寄托于模型自身的拒绝能力是有缺陷的架构思路，拒绝机制应当是多层防御体系中的一环78% 相似待验证一个对齐良好的模型更难被诱导做出危险行为，强健的安全机制也为对齐目标的落地提供保障，二者相互交织76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/230993API
curl https://kongchang.com/api/v1/knowledge/claims/230993MCP
get_claim(id=230993)