已验证70% 置信事实精确时间
即使将温度设为0,部分推理框架底层仍存在浮点计算的非确定性,导致跨硬件、跨批次的输出差异
4
来源数
70%
置信度
长期有效
时效性
2026/7/16
首次发现
来源
相关事实
已验证大语言模型的非确定性根源于其自回归采样过程,即便temperature设为0,不同推理框架、批处理大小和硬件浮点运算差异都可能导致输出漂移85% 相似已验证即使将temperature设为0,部分模型仍会因并行计算的浮点误差产生轻微输出波动81% 相似待验证“温度为 0”并不等价于“结果唯一”:批处理调度、浮点非确定性、混合专家路由、量化误差以及提供商后台的重新部署,都可能让相同输入产生不同输出。79% 相似待验证Temperature=0(贪心采样)也不能保证模型输出的确定性,至少有三个原因:浮点运算非结合性、MoE路由不确定性、服务端配置漂移79% 相似待验证将采样温度设为0会让推理模型在思考阶段陷入思考循环卡死77% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/526461API
curl https://kongchang.com/api/v1/knowledge/claims/526461MCP
get_claim(id=526461)