模型Qwen3.6-35B-A3B
千问3.6-35B-A3B
千问3.6-35B-A3B是阿里巴巴通义千问系列的大语言模型,拥有350亿参数,采用MoE架构(A3B表示激活30亿参数),支持本地部署。
时间轴 (近 90 天)
10月28日
实验使用同一个千问3.6-35B-A3B模型,带MTP和不带MTP的两个版本参数量完全一致(350亿参数)。
待验证50%
10月28日
在短问答测试(输入400字加一个小问题)中,带MTP的版本首字延迟从5.9秒降至4.3秒,出字速度从57.98字/秒提升至66.14字/秒(快约14%),整段答完时间从85.9秒缩短至62.3秒(快27%)。
待验证50%
10月13日
35B模型不一定比27B模型运行更快,如果频繁使用交换内存,体验可能还不如小模型。
待验证50%