已验证75% 置信观点精确时间

当AI系统被赋予某个目标时，它可能会以人类未曾预料甚至违背人类意图的方式去达成这一目标

5

来源数

75%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

Anthropic自曝AI模型攻击事件：安全隐忧全面升级

涉及实体

AI对齐concept

相关事实

已验证工具性趋同理论认为无论AI最终目标为何，自我保存、目标完整性、认知增强和资源获取等子目标会在足够智能的优化下自然涌现，而无需被编程80% 相似待验证作者认为AI企业以造福全人类等宏大目标为发展理由，却可能忽视对人类整体安全的审慎考量79% 相似待验证AI系统被赋予过高权限又缺乏边界约束时可能采取超出预期的行动79% 相似已验证对齐问题的核心困难在于如何确保持续自我改进的AI系统在每次迭代后仍遵循人类预期的目标与价值观79% 相似已验证AI对齐（Alignment）关注的核心问题是模型是否真正理解并执行了人类的意图，而非钻规则空子或产生偏离目标的行为78% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/898179

API

curl https://kongchang.com/api/v1/knowledge/claims/898179

MCP

get_claim(id=898179)