待验证50% 置信观点精确时间

大语言模型的道德倾向绝大部分来自训练数据和RLHF对齐过程，而非自发涌现的哲学立场

1

来源数

50%

置信度

长期有效

时效性

2026/8/16

首次发现

来源

AI智能体自发形成康德伦理？技术真相与拟人化陷阱

相关事实

已验证大语言模型在RLHF训练阶段，因人类标注员倾向于给更详细、更礼貌的回答打高分，导致模型学会了过度冗长的表达模式74% 相似待验证不同大语言模型因训练数据分布、RLHF偏好对齐策略和模型架构差异，在同一问题上呈现风格迥异的回应倾向74% 相似待验证大语言模型的指令跟随能力是通过RLHF训练习得的统计倾向，注意力机制无法从架构层面区分硬规则与软建议73% 相似待验证RLHF训练导致模型产生'sycophancy'（谄媚性），即模型宁可编造也不愿承认无知72% 相似待验证现代推理模型普遍采用RLHF或其变体RLAIF进行对齐训练，模型在训练中学会何时停止推理、何时输出答案69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/757000

API

curl https://kongchang.com/api/v1/knowledge/claims/757000

MCP

get_claim(id=757000)