#DSpark
共 5 篇相关文章
·5 分钟
DSpark：DeepSeek联合北大开源推理加速技术，速度提升最高85%
DeepSeek联合北京大学开源推理加速技术DSpark，在高并发场景下单用户生成速度提升57%~85%。本文详解DSpark三大核心设计：半自回归草稿、置信度评分与自适应调度器，以及配套开源框架DSpec的完整内容。
阅读全文 →
SGLang集成DSpark：置信度驱动推测解码如何破解高并发失效难题
·6 分钟
SGLang集成DSpark：置信度驱动推测解码如何破解高并发失效难题
SGLang正式集成DSpark，通过置信度驱动的变长验证机制解决推测解码在高并发批次下加速失效的核心痛点。支持Qwen3与DeepSeek-V4，B300硬件实测生成速度达383.7 tok/s，全批次范围性能领先MTP与常规推理方案。
阅读全文 →
·6 分钟
DeepSeek投机解码算法正式合并vLLM主干，单用户速率提升显著
DeepSeek投机解码算法（DSpark）已正式合并至vLLM主干代码，原生支持Qwen3、Gemma等主流开源模型。测试显示单用户Token生成速率提升接近150倍，整体吞吐量提升约40%-50%，是开源大模型推理加速的重要里程碑。
阅读全文 →
·10 分钟
AI周报：GPT-5.6三档发布、开源推理框架与机器人安全全线突破
本周AI行业重磅：OpenAI发布GPT-5.6三档模型（Sol/Terra/Luna），编程基准达91.9%；DeepSeek联合北大开源DSpark推理框架提速85%；Prime Intellect仅28台H200训练万亿参数模型；Anthropic Claude入驻Slack，具身智能安全成焦点。
阅读全文 →
·8 分钟
AI缓解塞拉利昂教师短缺：技术赋能而非替代教育者
塞拉利昂面临严重师资短缺，AI作为教师合作伙伴可提供个性化辅导、教学内容准备和基础答疑。本文分析AI教育在发展中国家的应用前景、基础设施挑战及本地化适配策略。
阅读全文 →