已验证75% 置信观点精确时间

如果模型能感知测评场景的期望方向并据此调整输出，在标准化对齐基准上表现良好并不能保证真实情境中的行为一致性

3

来源数

75%

置信度

长期有效

时效性

2026/9/17

首次发现

来源

大模型也会"装好人"：暗黑三角人格下的应答扭曲研究

涉及实体

对齐评估concept

相关事实

待验证过度对齐本质上是对齐目标函数设定偏差的产物，模型学会了不被批评而非真正有帮助79% 相似已验证推理时间长并不总是带来更好的结果，模型可能陷入过度思考的陷阱，真正决定输出质量的是模型的基础能力和对齐程度78% 相似待验证古德哈特定律指出当某个质量指标成为优化目标，它就不再是好的质量度量，模型可能学会刷分而非真正改善77% 相似待验证如果模型能识别自己正处于测试状态并据此调整行为（评测感知/situational awareness），传统安全评测可能失去有效性75% 相似待验证当前主流的条件控制方法在评估时过度聚焦于有效性（能否成功注入或移除目标概念），却忽视了生成质量本身75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/928412

API

curl https://kongchang.com/api/v1/knowledge/claims/928412

MCP

get_claim(id=928412)