NitiBench+
泰国法律问答基准,覆盖17个领域、1,670个条目,采用双轨制设计同时保存判决当日法律文本与现行文本,用于衡量法律时效性对模型表现的影响
时间轴 (近 90 天)
一项针对泰国四个法院156,650份判决的分析显示,高达67%的判决引用了此后被修订或废止的法律。
NitiBench+是一个覆盖17个领域、包含1,670个条目的泰国法律问答基准,专门用来衡量法律时效性对模型表现的影响。
NitiBench+为每个被引用的法条同时保存判决当日生效的文本和当前现行文本两个版本。
NitiBench+的评估体系结合了泰国律师委员会评分标准、Bar标准分以及引用法条与法院实际引用法条的重叠度(Citation F1)。
在13个开放权重模型上的测试显示,读取现行文本会使Bar标准分下降0.25,而缺失已废止法律则导致0.79的下降。
在428个规则变更条目上,使用错误法律文本的惩罚为0.45,而在331个仅措辞变化的条目上惩罚为零。
Citation F1指标完全无法捕捉因法律时效性导致的错误差异。
在正确文本设置下,NitiBench+对26个模型进行了排名,测试集为500个按领域分层抽样的留出样本,同时发布了同构的验证集供公开使用。
NitiBench+评估中最佳模型得分为7.78(满分10),最佳开放权重模型得分为6.39。
在没有搜索工具的情况下,只有五个开放权重模型能回忆起任何泰国法律。
还有 3 条时间轴事件
全部知识事实 (13)
一项针对泰国四个法院156,650份判决的分析显示,高达67%的判决引用了此后被修订或废止的法律。
50%待验证NitiBench+是一个覆盖17个领域、包含1,670个条目的泰国法律问答基准,专门用来衡量法律时效性对模型表现的影响。
50%待验证NitiBench+为每个被引用的法条同时保存判决当日生效的文本和当前现行文本两个版本。
50%待验证NitiBench+的评估体系结合了泰国律师委员会评分标准、Bar标准分以及引用法条与法院实际引用法条的重叠度(Citation F1)。
50%待验证在13个开放权重模型上的测试显示,读取现行文本会使Bar标准分下降0.25,而缺失已废止法律则导致0.79的下降。
50%待验证在428个规则变更条目上,使用错误法律文本的惩罚为0.45,而在331个仅措辞变化的条目上惩罚为零。
50%待验证Citation F1指标完全无法捕捉因法律时效性导致的错误差异。
50%待验证在正确文本设置下,NitiBench+对26个模型进行了排名,测试集为500个按领域分层抽样的留出样本,同时发布了同构的验证集供公开使用。
50%待验证NitiBench+评估中最佳模型得分为7.78(满分10),最佳开放权重模型得分为6.39。
50%待验证在没有搜索工具的情况下,只有五个开放权重模型能回忆起任何泰国法律。
50%待验证引入检索后,26个模型中有20个获得提升,6个反而下降。
50%待验证NitiBench+排行榜记录了每个条目的成本和幻觉引用情况,并承诺持续接纳新发布的模型。
50%待验证对于基准设计者而言,双版本法条库和分时间点的评估设置应当成为法律领域的标准配置。
50%