已验证80% 置信事实时间未知
评估编程大模型的主流基准包括HumanEval、MBPP、SWE-bench和LiveCodeBench
6
来源数
80%
置信度
长期有效
时效性
2026/5/31
首次发现
来源
GPT-4 Thinking深度评测：编程、Agent与写作能力实测对比
bilibiliAI技术研究院
涉及实体
相关事实
待验证HumanEval、MBPP、SWE-bench是专门针对代码生成的标准评测集81% 相似待验证SWE-bench和LiveCodeBench是业界较为公认的代码大模型评测基准79% 相似已验证代码大语言模型采用HumanEval、MBPP等可执行基准评估，即直接运行生成代码并检验输出是否正确78% 相似待验证评估大模型代码能力常用HumanEval和SWE-bench，综合推理常用MMLU和GPQA，指令遵循常用IFEval77% 相似待验证SWE-bench相比HumanEval、MBPP等传统基准更贴近实际开发场景，考验模型对大型代码库的理解、跨文件依赖追踪和缺陷定位能力76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/13594API
curl https://kongchang.com/api/v1/knowledge/claims/13594MCP
get_claim(id=13594)