任务向量

任务向量（Task Vectors, TVs）通过对比模型在不同任务下的隐藏状态提取，是一种轻量级的模型 steering 手段。

最新研究提出任务向量可线性分解为功能可解释的组件（TR组件、TL组件和残差组件）。

实验结果显示，基于 TR/TL 的优化所识别出的干预方向在性能上优于原始任务向量。

任务向量的可分解性得到了该研究团队在多个模型家族上的实验以及独立分析者（如B站UP主和YouTube频道）的交叉验证。

任务向量的线性分解为理解上下文学习机制提供了新工具，有望推动可解释 AI 的发展。