[控场AI]
基准双轴政策蕴涵 / Dual-Axis Policy Entailment

DAPE

用于评估政策变迁推理的基准,将政策对判断拆解为领域判断和变迁方向判断两个有序决策,形成五类标签。

时间轴 (近 90 天)

11月3日

研究者提出了双轴政策蕴涵(Dual-Axis Policy Entailment, DAPE)基准,旨在同时评估政策对在'领域'和'变迁方向'两个维度上的关系。

待验证50%
11月3日

DAPE将政策对判断拆解为两个有序决策:二元判断(是否同一政策领域)和五元判断(延续、拓宽、收窄、逆转、不同领域)。

待验证50%
11月3日

DAPE基准包含1000个有序政策指令对,均从中国政府的政策语料中抽取。

待验证50%
11月3日

研究者贡献了一套标注校准协议(包含裁决包和前后一致性测量),作为确保标注质量可量化、可复现的方法论工具。

待验证50%
11月3日

在零样本设置下,14个开源权重模型和4个前沿API旗舰模型均未能通过DAPE政策变迁推理任务。

待验证50%
11月3日

表现最好的前沿旗舰模型与专家标签的随机校正一致性Cohen's κ约为0.29,远低于人类上限约0.53。

待验证50%
11月3日

采用LoRA SFT对Qwen3-14B进行五折交叉验证微调后,模型达到κ = 0.524,接近编码者间人类上限κ = 0.527。

待验证50%
11月3日

研究者将DAPE用于分析中国人工智能政策(1980-2024年),并绘制了不同时代的政策变迁方向。

待验证50%
11月3日

DAPE中的'蕴涵'概念借自自然语言推理(NLI)任务,将前一项政策视为前提、后一项政策视为假设,用蕴含关系刻画新政策相对于旧政策的语义位置。

待验证50%

全部知识事实 (9)

来源文章