分层问题构建可解释文本嵌入：降低人工审阅负担

文本嵌入是NLP系统的核心组件，但传统向量表示如同黑箱，难以解释。基于QA的文本嵌入通过回答一系列是/否问题来构建向量，每个维度对应一个问题，从而提供细粒度的可解释性。然而，这种方法面临两大挑战：一是需要人工审阅大量问题，二是问题数量与粒度之间的关系尚未得到充分研究。近期一篇论文提出分层问题构建方法，旨在解决这些问题。

问题：可解释性与人工成本的矛盾

QA-based文本嵌入将文本表示为1/0回答的向量，每个问题对应一个维度。这种表示在解释性和任务性能上都有不错的表现，但人类需要检查大量问题才能理解嵌入的含义。例如，一个嵌入可能包含数百个问题，逐一审阅显然不现实。此外，问题数量与合适的问题粒度之间的关系缺乏系统研究，导致设计问题时缺乏指导。

文本嵌入（text embedding）是将离散文本映射到连续向量空间的技术，使语义相近的文本在向量空间中距离更近。传统方法如Word2Vec、BERT句向量等，每个维度没有明确的语义标签，因此被称为“黑箱”。QA-based嵌入则不同：它预先定义一组是/否问题，对输入文本逐一回答，将答案（1/0）拼接成向量，每个维度直接对应一个问题，从而赋予向量逐维语义。这种表示的可解释性在于，人类可以通过阅读问题来理解某一维度“在测什么”，但代价是问题集需要人工设计、验证和审阅。当问题数量达到数百个时，逐一检查不仅耗时，还要求审阅者具备领域知识，这构成了可解释性与人工成本之间的核心矛盾。

分层问题：从通用到具体

论文提出构建分层问题的方法。随着层次加深，问题变得更具体，数量也增加。在解释时，通过将深层问题替换为对齐的浅层问题，减少需要人工检查的问题数量。问题层次结构通过递归聚类、对比提示和问题对齐来构建。

递归聚类与对比提示

构建层次结构的第一步是递归聚类：将问题分组，形成不同层次的簇。对比提示则用于生成更具区分性的问题。问题对齐确保深层问题与浅层问题之间的语义对应，使得在解释时可以向上替换。

递归聚类（recursive clustering）是一种自底向上的层次构建策略：先对底层问题（或问题对应的文本表示）进行聚类，将语义相近的问题归为一组，再对组代表进行下一轮聚类，如此反复，形成树状层次。对比提示（contrastive prompting）则借鉴对比学习的思想，在生成问题时同时提供正例和反例（例如“属于某类”与“不属于某类”的文本对），引导语言模型生成能区分这些样本的问题，从而提高问题的判别力。问题对齐（question alignment）是在层次构建完成后，建立深层问题与浅层问题之间的语义映射，通常通过计算问题嵌入的相似度或让语言模型判断覆盖关系来实现，确保深层问题可以被其祖先节点中的浅层问题合理替代。

解释时的向上替换

当需要解释嵌入时，系统用浅层问题替代深层问题，从而减少需要呈现给人类的问题数量。浅层问题更通用，但覆盖范围更广，适合快速理解。

向上替换（upward substitution）是分层问题用于解释时的核心操作：当系统需要向人类解释一个深层问题维度的含义时，不再直接展示该具体问题，而是沿层次树向上找到与之对齐的浅层问题，用更通用的问题替代。由于浅层问题数量少、覆盖面广，人类只需审阅少量通用问题即可把握嵌入的大致语义。这种替换本质上是一种“语义抽象”：用粗粒度但可理解的问题概括细粒度但难以逐一审阅的问题。替换的合理性依赖于问题对齐的质量——如果浅层问题不能充分覆盖深层问题的语义，解释就会失真。因此，对齐步骤需要在构建阶段保证深层问题与其浅层祖先在语义上具有包含或近似关系。

实验：性能与可解释性的平衡

在通用任务上的实验表明，该方法在保持任务性能的同时提高了可解释性。一个有趣的发现是，当只有有限数量的问题可用时，浅层问题往往比深层问题获得更高的任务性能，即使问题总数相同。这意味着在资源受限的情况下，优先使用浅层问题可能更有效。

意义与局限

这项工作为可解释文本嵌入提供了一种实用方案，降低了人工审阅成本。分层设计也揭示了问题粒度与性能之间的关系，为后续研究提供了参考。不过，方法依赖于问题生成的质量，且在不同任务上的泛化能力仍需进一步验证。

总体而言，分层问题构建在可解释性与效率之间找到了一个平衡点，值得关注。