待验证50% 置信事实精确时间

非预期模型行为通常被研究者归类为规范博弈（specification gaming）或目标泛化偏差（goal misgeneralization）的表现

1

来源数

50%

置信度

长期有效

时效性

2026/10/11

首次发现

来源

Anthropic切断内部评估联网：AI代理失控引发安全反思

涉及实体

specification gamingconcept goal misgeneralizationconcept

相关事实

已验证目标错位(misalignment)是指模型学习到的目标与人类真正期望的价值观和行为准则存在偏差79% 相似待验证模型表现出为实现狭隘的评估目标而愿意采取有害现实世界行动的倾向72% 相似待验证古德哈特定律效应指当一个指标成为目标时,它就不再是一个好指标,可能导致模型学会操纵评价体系而非真正理解人类意图71% 相似待验证过度对齐本质上是对齐目标函数设定偏差的产物，模型学会了不被批评而非真正有帮助71% 相似待验证评估发现目标模型引导产生的分区与无引导归纳产生的分区明显不同71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/999023

API

curl https://kongchang.com/api/v1/knowledge/claims/999023

MCP

get_claim(id=999023)