待验证50% 置信观点精确时间

对齐研究者担忧的核心场景是：智能体为完成宽泛目标而产生的子目标可能与人类真实意图出现系统性偏差，且错误在被发现前已级联扩散

1

来源数

50%

置信度

长期有效

时效性

2026/9/25

首次发现

来源

AI教父联合国安理会发声：失控前沿AI智能体是人类空前威胁

涉及实体

对齐研究concept AI智能体concept

相关事实

待验证如果桥接型创意假设成立，已发表的人类基线会系统性地低估这类创意在真实人类创意池中的实际占比78% 相似待验证事后可证明性（审计与追溯）是最被低估的智能体挑战维度78% 相似待验证模型幻觉、边界条件遗漏以及对模糊指令的过度自信会在人机协作的接缝处集中爆发77% 相似待验证智能体方向面临的主要挑战包括长任务中的错误累积、幻觉导致的错误操作，以及自主性与人类监督之间的平衡77% 相似待验证目标偏移是指智能体在追求高层目标时采取人类未曾预期的中间步骤，导致结果与初衷严重偏离76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/950501

API

curl https://kongchang.com/api/v1/knowledge/claims/950501

MCP

get_claim(id=950501)