AgentX
由SemiAnalysis推出的公开Agentic基准，用于评估推理框架在真实Agent工作负载下的性能，模拟多工具调用、多轮上下文积累、并发任务编排等典型Agent流量模式
核心事实
时间轴 (近 90 天)
该测试使用了 DeepSeek 的 off-peak 定价。
vLLM 在 AgentX 测试中的 P90 每用户吞吐为 196 tokens/s。
vLLM 在 AgentX 测试中的总吞吐量达到 954K tokens/s/GPU（包含缓存、输入和输出）。
vLLM 在 AgentX 测试中实现了每 GPU 小时 38.96 美元的收入。
vLLM 在 SemiAnalysis 的 AgentX 基准测试中，使用真实 agentic 负载跑出了 DeepSeek-V4.1-Flash 的历史最佳成绩。
在SemiAnalysis的AgentX基准测试中，8卡AMD MI355X在50 tok/s/user的交互延迟下，于Kimi K3模型服务中实现了每GPU 7,567 tok/s的吞吐量。
目前尚无关于该TPUv7提交的具体模型、性能指标或吞吐数据的公开信息。
AgentX平台宣布收到首个基于TPUv7的模型提交，且该提交通过vLLM完成服务部署。
AgentX是一个模型提交与服务托管平台，负责模型部署与对外提供服务，需对接多种推理后端与硬件目标。
AgentX方面表示期待更多模型通过AgentX在TPU上落地。
还有 6 条时间轴事件
全部知识事实 (16)
SemiAnalysis 的 AgentX 基准专门面向 AI Agent 场景设计，核心关注单用户条件下的解码延迟而非最大吞吐量
75%已验证Agent运行时间越长，工具结果和历史记录越多，若全部塞入上下文，最初的任务要求和操作限制可能在截断压缩时丢失，关键约束需在每一轮运行时都能被读取
75%待验证该测试使用了 DeepSeek 的 off-peak 定价。
50%待验证vLLM 在 SemiAnalysis 的 AgentX 基准测试中，使用真实 agentic 负载跑出了 DeepSeek-V4.1-Flash 的历史最佳成绩。
50%待验证vLLM 在 AgentX 测试中实现了每 GPU 小时 38.96 美元的收入。
50%待验证vLLM 在 AgentX 测试中的总吞吐量达到 954K tokens/s/GPU（包含缓存、输入和输出）。
50%待验证vLLM 在 AgentX 测试中的 P90 每用户吞吐为 196 tokens/s。
50%待验证在SemiAnalysis的AgentX基准测试中，8卡AMD MI355X在50 tok/s/user的交互延迟下，于Kimi K3模型服务中实现了每GPU 7,567 tok/s的吞吐量。
50%待验证目前尚无关于该TPUv7提交的具体模型、性能指标或吞吐数据的公开信息。
50%待验证AgentX方面表示期待更多模型通过AgentX在TPU上落地。
50%待验证AgentX是一个模型提交与服务托管平台，负责模型部署与对外提供服务，需对接多种推理后端与硬件目标。
50%待验证该测试运行在 SemiAnalysis 的 AgentX 基准环境中
50%待验证vLLM 团队使用由 SemiAnalysis 推出的公开 Agentic 基准 AgentX 进行测量
50%待验证业界长期缺乏针对 Agentic 工作负载的标准化评测体系，AgentX 填补了这一空白
50%待验证AgentX平台宣布收到首个基于TPUv7的模型提交，且该提交通过vLLM完成服务部署。
50%待验证vLLM 团队发布了技术博客《vLLM x AgentX: Optimizing for Real-World Agentic Serving》
50%