待验证50% 置信观点精确时间

标准化AI基准测试(如HumanEval、SWE-bench)存在基准过拟合的失真问题

1

来源数

50%

置信度

长期有效

时效性

2026/7/19

首次发现

来源

Grok 4.5 vs Composer 2.5实测：真实代码库谁更强？

相关事实

待验证标准基准测试衡量的是单次工具调用的格式正确性，而真实的生产级Agent失败往往发生在多步序列之中78% 相似待验证HumanEval、MBPP、SWE-bench是AI编程评测领域的行业标准基准测试75% 相似待验证SWE-bench Verified由人工标注者筛除描述模糊或测试不稳定的样本，是业界权威的AI编程能力排行榜之一74% 相似待验证编程能力的评估通常参考HumanEval、MBPP、SWE-bench等标准化基准测试，但实际工程场景表现与基准测试结果存在差异74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/556743

API

curl https://kongchang.com/api/v1/knowledge/claims/556743

MCP

get_claim(id=556743)