MMLU-Pro
原版MMLU基准测试的加强版,将选项数量从4个扩展至10个,并引入更多需要深度推理而非记忆的题目,更难通过猜测刷高分
时间轴 (近 90 天)
实验在MMLU-Pro和MMMU-Pro上进行,结果显示校准不佳的自置信度仍能支持统计上有效的分层审计。
MMLU-Pro由TIGER-Lab于2024年推出,将四选一改为十选一,共约12,000道推理密集型题目,是当前开源模型常引用的知识类基准之一。
MMLU-Pro前五名分差仅0.6个百分点:Darwin-180B-RSI 88.1%、MiniMax-M2.1 88.0%、Intern-S2-Preview 88.0%、Qwen3.5-397B-A17B 87.8%、DeepSeek-V4-Pro 87.5%。
截至2026年10月19日,Darwin-180B-RSI在AIhoster榜单的MMLU-Pro上以88.1%排名第一,在GPQA Diamond上以94.4%排名第一。
在 MMLU-Pro、TriviaQA 等推理任务上,U-Space 单次前向的打分器一致地将正确答案排在熵方法或集成方法之前。
MMLU-Pro榜首是FINAL-Bench/Darwin-180B-RSI,得分88.12;gpqa榜首同样由它拿下,得分94.44。
GPQA Diamond、MMLU-Pro、Humanity's Last Exam、SWE-bench Verified、Terminal-Bench、MMMU-Pro、LEXam、Open ASR Leaderboard 都属于 Hugging Face 官方标记的 official benchmark。
在全部 38 项基准中,Aplomb 1 在 8 项上拿到 5.3B 以内模型最高分,包括 MMLU-Pro、GPQA Diamond 和 BBH
2.0 的知识类能力下滑(MMLU-Pro 72.5 对比基础 78.5),竞赛级代码能力下降(LiveCodeBench 51 对比 56)
在MMLU-Pro基准上Flash-Next IQ4_XS得分83.8%,Qwen3 27B FP8得分75.0%
还有 2 条时间轴事件
全部知识事实 (10)
实验在MMLU-Pro和MMMU-Pro上进行,结果显示校准不佳的自置信度仍能支持统计上有效的分层审计。
50%待验证截至2026年10月19日,Darwin-180B-RSI在AIhoster榜单的MMLU-Pro上以88.1%排名第一,在GPQA Diamond上以94.4%排名第一。
50%待验证MMLU-Pro由TIGER-Lab于2024年推出,将四选一改为十选一,共约12,000道推理密集型题目,是当前开源模型常引用的知识类基准之一。
50%待验证MMLU-Pro前五名分差仅0.6个百分点:Darwin-180B-RSI 88.1%、MiniMax-M2.1 88.0%、Intern-S2-Preview 88.0%、Qwen3.5-397B-A17B 87.8%、DeepSeek-V4-Pro 87.5%。
50%待验证在 MMLU-Pro、TriviaQA 等推理任务上,U-Space 单次前向的打分器一致地将正确答案排在熵方法或集成方法之前。
50%待验证GPQA Diamond、MMLU-Pro、Humanity's Last Exam、SWE-bench Verified、Terminal-Bench、MMMU-Pro、LEXam、Open ASR Leaderboard 都属于 Hugging Face 官方标记的 official benchmark。
50%待验证在全部 38 项基准中,Aplomb 1 在 8 项上拿到 5.3B 以内模型最高分,包括 MMLU-Pro、GPQA Diamond 和 BBH
50%待验证2.0 的知识类能力下滑(MMLU-Pro 72.5 对比基础 78.5),竞赛级代码能力下降(LiveCodeBench 51 对比 56)
50%待验证评测覆盖MMLU-Pro、GPQA Diamond、GSM8K、德语MGSM和IFEval五个基准
50%待验证多个前沿模型在MMLU上的得分差距已缩小到百分之一的量级,推动了MMLU-Pro和ARC-AGI等更高难度基准的出现
50%