[控场AI]
基准

SWE-Lancer

用于评估大语言模型编程能力的基准测试,包含task selection和per-task两种评估模式,测试模型解决真实软件工程任务的能力

时间轴 (近 90 天)

9月11日

测试者使用SWE-Lancer基准的task selection和per-task两种模式评估模型编程能力

待验证50%
9月11日

标准的Kimi-K3-REAP-512GB版本在SWE-Lancer任务14294、15815_1、15925上完全失败

待验证50%
9月11日

reap576_iq2xxs(478GB)版本成功解决了SWE-Lancer任务14294、15815_1、15925

待验证50%
9月11日

流式解码速度较慢,平均每个SWE-Lancer任务耗时约2.5小时

待验证50%
9月11日

通过RunPod租用云端算力跑完全部SWE-Lancer任务的预估费用高达1800美元

已过期50%

全部知识事实 (4)

来源文章