LiveBench
一个面向大型语言模型的实时更新评测基准,通过持续更新题目避免数据污染,用于公平比较不同模型的综合能力
时间轴 (近 90 天)
LiveBench 七项评测中,Terra 总分 77.8,能动性(agency)项得分 48.6,远低于其编码(94.3)和浏览(93.1)分数。
在 LiveBench 长时程 agentic 任务上,Opus 和 Astra 得分均在 80 分以上,Argon 只有约 70 分。
LiveBench 的 agentic coding 子项专门考察模型在多步骤工具调用与文件操作中的持续表现。
LiveBench 的题目来自近期竞赛、论文与新闻,按月更新以防数据污染,并设有客观可验证的答案。
学术界正在探索动态基准(如HELM、LiveBench)和对抗性评测(Adversarial NLI)作为替代方案
参考LiveBench基准,Claude Fable 5.1与GPT-6 Astra能力接近
LiveBench 等新型评测框架会定期替换题目以对抗数据污染
LiveBench是每月更新测试题目的动态基准
许多经典基准已趋于饱和(如HellaSwag上多个模型得分超过95%),业界正在开发更具区分度的新基准如GPQA、SWE-bench、LiveBench
全部知识事实 (8)
LiveBench 七项评测中,Terra 总分 77.8,能动性(agency)项得分 48.6,远低于其编码(94.3)和浏览(93.1)分数。
50%待验证在 LiveBench 长时程 agentic 任务上,Opus 和 Astra 得分均在 80 分以上,Argon 只有约 70 分。
50%待验证LiveBench 的题目来自近期竞赛、论文与新闻,按月更新以防数据污染,并设有客观可验证的答案。
50%待验证LiveBench 的 agentic coding 子项专门考察模型在多步骤工具调用与文件操作中的持续表现。
50%待验证学术界正在探索动态基准(如HELM、LiveBench)和对抗性评测(Adversarial NLI)作为替代方案
50%待验证LiveBench 等新型评测框架会定期替换题目以对抗数据污染
50%待验证LiveBench是每月更新测试题目的动态基准
50%待验证许多经典基准已趋于饱和(如HellaSwag上多个模型得分超过95%),业界正在开发更具区分度的新基准如GPQA、SWE-bench、LiveBench
50%