待验证50% 置信事实精确时间

实验通过 llama.cpp 的 --logit-bias 参数对约 50 个 token 施加 -2 的偏置

1

来源数

50%

置信度

长期有效

时效性

2026/9/27

首次发现

来源

抑制"过度思考"词汇：logit惩罚如何提升Qwen模型准确率

涉及实体

llama.cppproduct --logit-biasconcept

相关事实

待验证在RAG流程中，一个原本50个Token的用户问题可能膨胀为包含5000-10000个Token的完整Prompt66% 相似待验证高推理强度模式下单次请求的 Token 消耗可能是低强度模式的 5-20 倍63% 相似待验证传统 LLM 推理中为每个请求预分配连续显存的 KV 缓存方式，实际显存利用率往往不足 50%60% 相似待验证在MoE模型中稠密层参数量占比通常不到总参数的20%，但每个token都必须经过，因此需要更高精度保护59% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/954323

API

curl https://kongchang.com/api/v1/knowledge/claims/954323

MCP

get_claim(id=954323)