待验证50% 置信基准精确时间

FreeToken支持运行时调整GPU专家缓存大小，测试显示缓存从58%降至40%仅损失约10%性能，低于20%时性能急剧下降

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/11

首次发现

有效期至：2026/12/10

来源

FreeToken推理引擎：MoE模型速度提升3倍的技术突破

涉及实体

FreeTokenproduct

相关事实

已验证自回归解码阶段GPU算力利用率往往不足10%，属于内存密集型操作74% 相似待验证测试中4块GPU中只有1块的利用率达到约10%-13%，其余几乎处于空闲状态，而CPU使用率高达50%左右71% 相似待验证对于MuJoCo、Atari等环境，单个环境的采样速度往往跟不上GPU计算能力，导致GPU利用率长期停留在20%–40%甚至更低70% 相似待验证许多推理服务的GPU利用率不足30%，通过VGPU技术可将利用率提升至70%以上69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/897262

API

curl https://kongchang.com/api/v1/knowledge/claims/897262

MCP

get_claim(id=897262)