WeLM-Image：统一图像生成模型如何落地微信

微信的视觉生成能力背后，是一个为单卡部署而设计的统一图像基础模型。WeLM-Image 将多模态理解、文生图、指令引导编辑和多参考合成整合进同一套架构，目标是在大规模消费级应用中保持可部署性——这种“能力广度”与“工程约束”的平衡，是它最值得关注的地方。

统一架构：一条交错序列处理三类任务

WeLM-Image 的核心设计是把文本、参考图像和目标 latent 当作一条交错序列来处理。这意味着理解路径与生成路径共享同一次注意力计算，而不是拼接多个独立模块。

为防止理解任务和生成任务在优化时互相干扰，模型采用 Mixture-of-Transformers（MoT）骨干：共享注意力层，但理解与生成各自保留独立参数。在此基础上，每条路径再配备 Mixture-of-Experts（MoE）模块，以稀疏方式扩展容量。据原文数据，模型总存储参数为 31.7B，而每个目标 latent token 激活的生成参数约 5.4B。

这种“共享 + 分离 + 稀疏”的组合，实际上是在回答一个工程问题：如何在单 GPU 部署的约束下，同时保住理解与生成两条能力线。

为什么单卡部署是硬约束

原文明确指出，该模型面向微信大规模消费级应用、为单 GPU 部署而设计。这一前提深刻影响了架构选择——MoE 带来的稀疏激活、以及后续的少步蒸馏，都是为控制实际推理成本服务的手段，而非单纯的性能追求。

Mixture-of-Experts（MoE） 是一种稀疏激活的模型架构：网络中包含多个并行的“专家”前馈子网络，以及一个负责路由的门控机制，每个 token 只被分配给少数几个专家计算。这样模型的总参数量（存储占用）可以远大于单个 token 实际参与计算的参数量（激活量），从而在几乎不增加单步推理算力的前提下扩大模型容量。WeLM-Image 正是利用这一点，在 31.7B 总参数下把每个目标 latent token 的生成激活量控制在约 5.4B，使单卡部署成为可能。代价是显存仍需容纳全部专家权重，且路由不均衡会影响训练稳定性，因此专家并行与负载均衡损失是这类架构的常见工程配套。

Mixture-of-Transformers（MoT） 是多模态 Transformer 的一种变体结构，其做法是在同一个注意力框架内为不同模态（这里是理解路径与生成路径）保留各自独立的前馈层与归一化参数，只在注意力层共享权重。相比“用一个 Transformer 硬吃所有模态”，MoT 让不同任务拥有专属容量，减少梯度冲突；相比“多个模型拼接”，它又保留了跨模态的注意力交互，使参考图像、指令文本与目标 latent 能在同一次注意力计算中互相看见。这与文章所说的“一条交错序列处理三类任务”是同一设计的两面：序列是数据组织方式，MoT 是参数组织方式。

数据引擎：语义覆盖与编辑监督并重

统一模型的难点不只在架构，更在数据配比。WeLM-Image 的生成导向数据引擎把“知识锚定的视觉词表”与“大规模视觉聚类”结合起来，前者保证语义覆盖，后者支撑编辑类任务。训练时评估会反过来指导数据迭代精炼，形成闭环。

原文还提到双语标注与经过验证的编辑监督，支撑模型渐进训练至原生 1.5K 分辨率。对于要服务中文场景的产品而言，双语标注不是加分项，而是必要基础。

训练策略：先分后合的策略整合

生成与编辑被分别优化：使用基于评分规则（rubric）和检查清单（checklist）的奖励信号。随后通过噪声感知的 on-policy 蒸馏，把两个专用策略整合到一起。

这种“分而治之再合并”的思路，避免了单一奖励信号下两类任务相互拉扯。相比直接联合训练，它更容易在编辑这种对指令遵循要求高的任务上保住质量。

Turbo 版本：单卡近 5 秒出图

基于 MeanFlow 的少步蒸馏产出了 WeLM-Image-Turbo：在单张 NVIDIA H20 GPU 上，使用八步无引导采样，生成一张 1024×1024 图像耗时 4.98 秒。这个数字对消费级产品的交互体验有直接意义。

MeanFlow 是一类面向少步生成的流匹配（flow matching）训练方法。常规扩散或流模型需要几十步迭代去近似一条从噪声到数据的概率流路径，而 MeanFlow 直接学习该路径上的“平均速度场”，即用网络预测从某一时刻到另一时刻的位移均值，而不是瞬时速度。这一恒等式约束使模型在大步长下仍能保持轨迹准确，从而把采样步数压缩到个位数。配合蒸馏，学生模型可在 4–8 步内出图。文中 Turbo 采用八步无引导采样（即不额外做 classifier-free guidance 的双前向计算），这正是 1024×1024 仅需 4.98 秒的关键——步数与每步前向次数同时被削减。

on-policy 蒸馏 指用当前策略模型自己采样出的轨迹作为训练数据，再由教师信号（这里是 rubric/checklist 奖励或多教师组合）进行纠正与打分，学生据此更新。与离线蒸馏使用固定数据集不同，on-policy 让学生在自己实际会走到的状态分布上接受指导，能缓解训练与推理分布不一致带来的误差累积，对少步生成尤为关键。文中强调“噪声感知”，是指在不同噪声水平（即不同生成时刻）上分别对齐教师与学生的行为，使蒸馏在整条采样轨迹上都成立，而不是只在起始或末端有效。

评测表现：开源模型中的位置

原文报告的整体对比中，1536 分辨率版本在 PRISM-Bench、Qwen-Image-Bench 和 UnicBench 三个评测上，于所评估的开源模型中排名第一。需要说明的是，这是原文自报的对比结果，具体榜单细节与评测口径应参照原论文。

从定位看，WeLM-Image 的价值不在于刷新某个单项指标，而在于展示了一条路径：统一多任务能力、双语数据、单卡可部署、少步快速推理，这些约束可以同时被满足。对关注 AI 应用落地与开源工具生态的读者来说，这套工程权衡比单纯的排名更值得细读。