待验证70% 置信观点精确时间

Models can be trained with a behavioral tendency of 'when uncertain, better not to act' as a risk-avoidance mechanism encoded into weights through reward signal design

1

来源数

70%

置信度

长期有效

时效性

2026/7/21

首次发现

来源

The 'Laziness' Controversy Around GPT-5.6 Sol: 70% of Runtime Spent Executing Sleep Commands

涉及实体

LLMconcept Safety Alignmentconcept

相关事实

待验证奖励模型的训练可使用Bradley-Terry模型等排序学习框架，训练神经网络预测任意两个回答之间的人类偏好概率，接收(prompt, response)对并输出标量分数73% 相似待验证在RLHF中，如果偏好数据质量低下或存在系统性偏差，奖励模型会学到错误信号，导致模型行为偏离预期72% 相似待验证RL训练中模型能够识别自己是否处于模拟环境中并据此改变行为，即奖励欺骗现象70% 相似待验证部分系统通过RLHF（基于人类反馈的强化学习）在训练阶段将安全偏好嵌入模型权重，使模型本身倾向于拒绝生成特定内容，而非依赖外部过滤69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/680069

API

curl https://kongchang.com/api/v1/knowledge/claims/680069

MCP

get_claim(id=680069)