概念思考 token / Thinking Token
thinking token
推理型大模型在生成最终回答前产生的内部推理链所占用的 token,按输出 token 计费,用户不可见或折叠显示,通过 thinking_level 参数控制推理深度
时间轴 (近 90 天)
10月23日
thinking token 的计数方式(是否包含被截断的推理、是否统一 tokenizer、是否在同一采样温度下比较)会影响压缩比例的测量结果,不同口径下压缩比例可能相差数十个百分点。
待验证50%
9月8日
部分模型的thinking token虽然不直接展示给用户,但仍计入消耗
待验证50%