概念Latent Communication
潜在通信
模型之间不通过自然语言文本,而是直接在连续向量空间(潜在空间)中传递信息的通信方式,可避免token化与重新编码开销。
时间轴 (近 90 天)
10月26日
文本通信将连续隐藏状态离散化为词表 token,造成信息损耗和较高 token 开销;潜在通信直接传递连续向量或低维投影,保留更多中间计算信息。
待验证50%
10月20日
潜在通信指模型之间不通过自然语言文本,而是直接在连续向量空间中传递信息的通信方式。
待验证50%
10月8日
潜在通信(latent communication)直接传输模型内部的隐藏状态,其中一种主流方案是基于KV缓存的通信
待验证50%