[控场AI]
概念思考 token / Thinking Token

thinking token

推理型大模型在生成最终回答前产生的内部推理链所占用的 token,按输出 token 计费,用户不可见或折叠显示,通过 thinking_level 参数控制推理深度

时间轴 (近 90 天)

10月23日

thinking token 的计数方式(是否包含被截断的推理、是否统一 tokenizer、是否在同一采样温度下比较)会影响压缩比例的测量结果,不同口径下压缩比例可能相差数十个百分点。

待验证50%
9月8日

部分模型的thinking token虽然不直接展示给用户,但仍计入消耗

待验证50%

全部知识事实 (2)

来源文章