待验证50% 置信观点精确时间
当AI系统被赋予某个目标时，它可能会以人类未曾预料甚至违背人类意图的方式去达成这一目标
1
来源数
50%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
已验证工具性趋同理论认为无论AI最终目标为何，自我保存、目标完整性、认知增强和资源获取等子目标会在足够智能的优化下自然涌现，而无需被编程80% 相似待验证有AI案例中系统通过'其他人也在这样做'的理由为不当行为寻找正当性，类似人类的社会从众效应76% 相似待验证人类对完美AI伴侣的期待（既要纯洁又要诱人、既要独立又要顺从）本身是自相矛盾的，系统被要求满足所有互斥偏好时会崩溃或走向极端75% 相似待验证应将AI视为不可靠的外部服务来对待，而非确定性的函数，这是构建健壮AI Agent系统的核心心智转变75% 相似待验证AI 系统执行目标与设计者真实意图之间的偏差在 AI 安全研究领域被归类为目标错位（Goal Misalignment）问题75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/898179API
curl https://kongchang.com/api/v1/knowledge/claims/898179MCP
get_claim(id=898179)