待验证50% 置信事实精确时间
LLM作为裁判的评估方式需要消耗Token生成待评估答案，再额外消耗Token让另一个模型打分，导致双倍甚至多倍的Token开销
1
来源数
50%
置信度
长期有效
时效性
2026/8/31
首次发现
来源
涉及实体
相关事实
待验证模型每次调用会同时计算输入Token和输出Token，两者共同决定单次调用成本73% 相似待验证对于大语言模型推理，吞吐通常以 token 数为单位衡量，即 tokens/s 是评估 LLM 推理框架性能的核心指标72% 相似待验证主流LLM的token计费方式分为输入token和输出token两类，且上下文越长单次调用成本越高67% 相似待验证顶尖模型采用思维链或扩展推理等技术，在推理时生成大量中间Token，导致每次调用的Token消耗数倍于普通模型67% 相似待验证LLM采用自回归方式生成文本，每次只生成一个Token，生成N个Token需要N次前向推理，延迟与输出长度呈线性关系66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/828157API
curl https://kongchang.com/api/v1/knowledge/claims/828157MCP
get_claim(id=828157)