DAPE
用于评估政策变迁推理的基准,将政策对判断拆解为领域判断和变迁方向判断两个有序决策,形成五类标签。
时间轴 (近 90 天)
研究者提出了双轴政策蕴涵(Dual-Axis Policy Entailment, DAPE)基准,旨在同时评估政策对在'领域'和'变迁方向'两个维度上的关系。
DAPE将政策对判断拆解为两个有序决策:二元判断(是否同一政策领域)和五元判断(延续、拓宽、收窄、逆转、不同领域)。
DAPE基准包含1000个有序政策指令对,均从中国政府的政策语料中抽取。
研究者贡献了一套标注校准协议(包含裁决包和前后一致性测量),作为确保标注质量可量化、可复现的方法论工具。
在零样本设置下,14个开源权重模型和4个前沿API旗舰模型均未能通过DAPE政策变迁推理任务。
表现最好的前沿旗舰模型与专家标签的随机校正一致性Cohen's κ约为0.29,远低于人类上限约0.53。
采用LoRA SFT对Qwen3-14B进行五折交叉验证微调后,模型达到κ = 0.524,接近编码者间人类上限κ = 0.527。
研究者将DAPE用于分析中国人工智能政策(1980-2024年),并绘制了不同时代的政策变迁方向。
DAPE中的'蕴涵'概念借自自然语言推理(NLI)任务,将前一项政策视为前提、后一项政策视为假设,用蕴含关系刻画新政策相对于旧政策的语义位置。
全部知识事实 (9)
DAPE中的'蕴涵'概念借自自然语言推理(NLI)任务,将前一项政策视为前提、后一项政策视为假设,用蕴含关系刻画新政策相对于旧政策的语义位置。
50%待验证DAPE将政策对判断拆解为两个有序决策:二元判断(是否同一政策领域)和五元判断(延续、拓宽、收窄、逆转、不同领域)。
50%待验证DAPE基准包含1000个有序政策指令对,均从中国政府的政策语料中抽取。
50%待验证在零样本设置下,14个开源权重模型和4个前沿API旗舰模型均未能通过DAPE政策变迁推理任务。
50%待验证表现最好的前沿旗舰模型与专家标签的随机校正一致性Cohen's κ约为0.29,远低于人类上限约0.53。
50%待验证采用LoRA SFT对Qwen3-14B进行五折交叉验证微调后,模型达到κ = 0.524,接近编码者间人类上限κ = 0.527。
50%待验证研究者贡献了一套标注校准协议(包含裁决包和前后一致性测量),作为确保标注质量可量化、可复现的方法论工具。
50%待验证研究者提出了双轴政策蕴涵(Dual-Axis Policy Entailment, DAPE)基准,旨在同时评估政策对在'领域'和'变迁方向'两个维度上的关系。
50%待验证研究者将DAPE用于分析中国人工智能政策(1980-2024年),并绘制了不同时代的政策变迁方向。
50%