待验证50% 置信事实精确时间
一种常见的启发式做法是训练一个模型从决策预测结果，并将其系数或特征重要性作为各决策影响力的代理，但作者证明这并不总是成立，当模型设定有误或预测能力不足时估计就会失真。
1
来源数
50%
置信度
长期有效
时效性
2026/10/30
首次发现
来源
涉及实体
相关事实
已验证决策模型的输出往往是有限动作集合中的一个标签或概率分布，类似于强化学习中的策略网络，而生成模型需要在巨大词汇表上进行自回归采样79% 相似待验证教师强制引入了暴露偏差问题：训练时输入真实目标词，推理时输入模型自己预测的词，预测出错会在后续步骤累积放大75% 相似待验证自我反思通过让模型评估自身输出质量并迭代改进来实现，Reflexion框架展示了Agent可以从失败尝试中学习并在下一轮迭代中调整策略75% 相似已验证对齐良好的模型会将元指令引导至合规的创意表达，而对齐不足的模型可能出现意外行为75% 相似待验证生产环境通常需要将模型作为建议器与传统优化器计划做对比择优或设置回退机制，而非完全替换，以防学习式模型偶尔生成灾难性坏计划75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1113813API
curl https://kongchang.com/api/v1/knowledge/claims/1113813MCP
get_claim(id=1113813)