待验证50% 置信基准精确时间
NVIDIA的CentML团队在2.8万亿参数的Kimi K3大模型上实现了每用户每秒423个Token,在相同架构上速度提升1.68倍,得益于用CUDA DSL编写的解码内核和Mega Kernel Fusion技术,约12000行优化代码。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/29
首次发现
有效期至:2027/1/27
来源
AI圈爆料周:GPT-6.5泄露、Claude新模型与MiniMax性价比
bilibiliTHE_OREGANO2026/10/29
涉及实体
相关事实
待验证在 NVIDIA B200 上运行 Kimi K2.5,使用真实编程智能体轨迹(SWE-smith,EvalScope 评估),TokenSpeed 在整个延迟/吞吐量曲线上优于 TensorRT-LLM;batch size 1 时约快 9%,在每用户约 100 token/秒时吞吐量高约 11%。68% 相似待验证Megatron-LM实验数据表明,NVLink互联下8卡张量并行可达7.5×以上线性加速,而PCIe 3.0 x16环境下7B模型通常仅达2.5-3×,超过4卡后通信开销完全抵消额外算力67% 相似待验证投机解码配置得当时token生成速度可提升约1.5倍(据vLLM报告);Omer个人在家庭实验室用Qwen3 35B MoE搭配DFlash drafter,实测有2到3倍提升,编码场景接近3倍,浏览器自动化约1.5倍。66% 相似待验证DeepSeek-V4.1-Flash-1017 支持 100 万 token 上下文,建议最大输出 256K 以上。66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1111905API
curl https://kongchang.com/api/v1/knowledge/claims/1111905MCP
get_claim(id=1111905)