已验证75% 置信事实精确时间
LLM的不一致性与模型的温度参数和随机采样过程密切相关,同一问题多次调用同一模型可能产生不同答案
5
来源数
75%
置信度
长期有效
时效性
2026/7/15
首次发现
来源
相关事实
待验证大语言模型(LLM)由于temperature、top-p、top-k等采样策略带有随机性,同一提示词在两次调用中可能产生截然不同的响应83% 相似已验证LLM生成每个token时根据温度参数从概率分布中随机采样,而非选择概率最高的确定性输出,从而产生涌现性78% 相似待验证LLM推理的随机性至少来自三个独立来源:采样策略(temperature、top-p)、浮点运算的累积误差、以及批处理大小变化导致的矩阵乘法归约顺序改变。78% 相似待验证LLM本质上是在做下一个token的概率预测,即便温度参数设为0,面对复杂的多步骤指令时,模型仍会受到注意力机制的影响78% 相似已验证语言模型采样过程中的温度参数设计使同一提示在不同调用中可能产生截然不同的输出,因此重试本身并不保证收敛77% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/514411API
curl https://kongchang.com/api/v1/knowledge/claims/514411MCP
get_claim(id=514411)