J-Comm：雅可比引导的LLM智能体潜在通信新框架

多智能体系统的一个核心挑战是：如何让不同模型高效地交换推理中间状态？传统做法要么共享KV缓存（要求模型结构一致），要么用文本传递（信息损耗大、token开销高）。J-Comm 提出了一种新思路——用雅可比矩阵引导的潜在通信，让接收方模型在不共享缓存、不要求同宽度的前提下，直接利用发送方的中间计算。

两个组件：GEAR与H+J接口

J-Comm 由两部分构成。第一部分是 GEAR（Geometric Agreement for Latent Reasoning），这是一种无需训练的潜在推理方法。它在每一步对候选token重新加权，使得候选token在嵌入空间中的几何共识单调优化。换句话说，GEAR 不是靠额外训练来提升推理质量，而是利用现有模型嵌入的几何结构来筛选更一致的推理路径。

第二部分是 H+J 通信接口。H 通道（Hidden）提供来自反馈分布的连续输入，作为接收方推理的“原料”；J 通道（Jacobian）则以词汇索引的雅可比透镜坐标传递中间状态线索，在接收方的计算过程中提供额外引导。接收方用自己的词典重建这些线索，并在 prefill 阶段注入中间层。这种设计的关键在于：通信不依赖共享KV缓存，也不要求两个模型宽度相同。

雅可比透镜（Jacobian Lens） 是理解 J 通道的关键背景。在 Transformer 中，某一中间层的隐藏状态对最终输出 logits 的偏导数构成一个雅可比矩阵，其每个元素刻画了“该隐藏维度对某个词表 token 预测的敏感程度”。J-Comm 把这个矩阵按词汇索引压缩成低维坐标，相当于为发送方的中间状态生成一个以“哪些输出会受影响”为坐标系的指纹。接收方拿到这组坐标后，可以用自己的词表和解码头近似还原出对应的敏感度轮廓，从而判断哪些中间状态对结果更关键。由于坐标以词汇为索引，通信信号天然与具体模型宽度解耦，这是它不要求两模型同宽的原因。

实验表现：七项基准全面领先

在 Qwen3-8B 到 Qwen3-4B 的通信设置中，J-Comm 在七个基准上取得最高平均分。具体数据包括：MATH500 上 94.80%，GPQA-Diamond 上 54.55%，AIME2024+2025 上 73.33%，ALFWorld 上 62.93% 成功率。

与 TextMAS（基于文本的多智能体通信基线）相比，J-Comm 的性能提升在 1.29 到 8.59 个百分点之间，同时生成的文本 token 数减少 19.2% 到 74.8%。token 减少的幅度相当可观，说明潜在通信在效率上有实质优势——不是用更多计算换性能，而是在更少文本输出的情况下取得更好结果。

文中提到的 ALFWorld 是一个文本化的具身决策基准，智能体需要在模拟家居环境中根据自然语言指令完成多步操作（如“把洗净的苹果放进冰箱”），成功率为任务完成比例。它与 MATH500、GPQA-Diamond 的区别在于：后两者考察单轮推理的正确性，ALFWorld 考察多轮交互中的状态跟踪与规划，因此能检验通信信号是否在长程决策中同样有用。GPQA-Diamond 则是研究生水平的科学问答子集，题目经过对抗性筛选，防止搜索或记忆捷径，常被用作衡量模型深度推理能力的硬基准。

为什么值得关注

LLM 智能体协作的主流范式仍是“用自然语言对话”，但文本作为通信媒介存在天然瓶颈：它把连续的中间表示压缩成离散token，丢失了大量计算信息。J-Comm 的价值在于提供了一条绕过文本瓶颈的路径，同时保持了对异构模型的兼容性。

雅可比透镜的引入也值得注意。它把发送方中间状态对输出的敏感度信息编码进通信信号，相当于告诉接收方“哪些中间状态对最终结果更关键”。这种引导比单纯传递隐藏状态更有针对性。

不过，当前实验集中在 Qwen3 系列内部的跨规模通信，从8B到4B。更大规模、跨模型家族的通信效果还有待验证。此外，GEAR 的几何共识优化在推理任务上的收益是否随模型能力提升而衰减，也是一个开放问题。

潜在通信（latent communication） 与文本通信的根本差异在于信息带宽。文本通信把发送方连续的隐藏状态离散化为词表 token，相当于对有损压缩后的结果再做一次解码；潜在通信则直接传递连续向量或其低维投影，保留了更多中间计算信息。代价是接收方必须有能力“读懂”这些向量——共享 KV 缓存要求结构一致，而 J-Comm 通过词汇索引的雅可比坐标绕开了这一限制，使异构模型之间也能交换线索。这一路线与“模型融合”“表示对齐”等研究方向相关，但区别在于它不修改模型权重，只在推理时注入信号。

对多智能体架构的启示

J-Comm 的实验结果至少说明一点：潜在通信在推理密集型任务（数学、科学问答、具身决策）上可以超越文本通信。如果这一结论在更广泛的模型组合上成立，多智能体系统的设计空间将从“如何写好prompt”扩展到“如何设计通信接口”。

对于构建智能体应用的开发者而言，J-Comm 的 H+J 接口思路提供了一个可借鉴的方向：通信不一定要传递完整状态，传递“关键线索”加上接收方自身的重建能力，可能是一种更经济的协作方式。