Live Code Bench
LiveCodeBench是一个面向大语言模型的编程能力评测基准,通过持续收集编程竞赛平台(如LeetCode、Codeforces等)的题目并动态更新题库,以减少训练数据污染对评测结果的干扰。该基准覆盖代码生成、调试、执行推理等多个维度,旨在更客观地反映模型在真实编程任务中的能力表现。
时间轴 (近 90 天)
评估小模型时,仅看基准分数(如Live Code Bench)不够,需要评估整个技术栈:模型、推理运行时、智能体框架和上下文窗口。
谷歌官方模型卡给Gemma 4 26b的Live Code Bench打了77.1%
Live Code Bench的题目接近LeetCode竞赛,给定独立函数签名写实现,几乎不涉及跨文件依赖和增量修改
Qwen3.8 27b在Qwen卡上得分SWE-Bench Pro 61.7、Terminal Bench 2.1为73、Live Code Bench 90.3
Qwen3.8 Flash Next 在 Android World 基准测试中得分为84.5,在 Live Code Bench 上得分为91.9/95.7(均为官方数据)
在Live Code Bench上,Qwen3.8-27B得分90.3,Claude Opus 4.6得分88.8
全部知识事实 (6)
评估小模型时,仅看基准分数(如Live Code Bench)不够,需要评估整个技术栈:模型、推理运行时、智能体框架和上下文窗口。
50%待验证谷歌官方模型卡给Gemma 4 26b的Live Code Bench打了77.1%
50%待验证Live Code Bench的题目接近LeetCode竞赛,给定独立函数签名写实现,几乎不涉及跨文件依赖和增量修改
50%待验证Qwen3.8 27b在Qwen卡上得分SWE-Bench Pro 61.7、Terminal Bench 2.1为73、Live Code Bench 90.3
50%待验证Qwen3.8 Flash Next 在 Android World 基准测试中得分为84.5,在 Live Code Bench 上得分为91.9/95.7(均为官方数据)
50%待验证在Live Code Bench上,Qwen3.8-27B得分90.3,Claude Opus 4.6得分88.8
50%