待验证50% 置信观点精确时间
在实验设计中，由LLM决定「是否给提示」会引入非确定性，直接污染自变量，使学习者接受帮助的时机不可复现。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
别让LLM做决策：构建可预测AI导师的工程实践
rss2026/10/19
涉及实体
相关事实
待验证对LLM工程实践的启示包括：不要直接把模型输出的概率当作决策置信度使用；在无法转交人工的场景里应当显式设计保守回退策略；阈值选择需要统计保证。73% 相似待验证未来衡量推理模型可控性时，需要区分“提示指定”与“自我指令”两种条件，否则结论可能失真。73% 相似待验证置信度门控蒸馏只有当教师模型对样本的预测置信度超过阈值时，该样本的蒸馏信号才被纳入训练72% 相似待验证提示注入利用的是模型无法可靠区分「数据」与「指令」的天然缺陷，这一缺陷根植于LLM的训练机制本身72% 相似待验证若广泛采用对遗漏视而不见的LLM裁判来打分、做基准测试或指导模型训练（如RLHF、RLAIF），整个优化循环可能被误导，模型会学会生成看起来完整实则残缺的内容72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1069224API
curl https://kongchang.com/api/v1/knowledge/claims/1069224MCP
get_claim(id=1069224)