Prime Inference
Prime Intellect 推出的大模型推理服务平台，基于 vLLM 构建，专门针对 Agent 工作负载做了优化，支持 prefill/decode 拓扑隔离、调度器气泡优化和可靠工具调用
核心事实
时间轴 (近 90 天)
Prime Intellect于2025年10月2日上线Prime Inference，并在GB200 NVL72上实现相同GPU数量承载75%更多请求的生产数据
Prime Inference 的默认模型为 Gemini 4 Argon，Requesty 为 Muse Spark Open，Nvidia 和 Nebius Token Factory 为 Nemotron 3.5 Super VL，Aixy 和 Neon 为 Claude Haiku 5.5
多个 Provider 的默认模型发生变化：Cortecs、CrossModel、Eden AI、Google Gemini、GitHub Copilot、Google Vertex AI、LLM Gateway、Ofox、OpenCode Go、Prime Inference 现在默认 Gemini 4 Argon；Fireworks AI、Nebius Token Factory、Requesty 转向 Muse Spark Open；CoreWeave、DigitalOcean、NanoGPT、Nvidia 采用 Nemotron 3.5 Super VL；Aixy 和 Neon 使用 Claude Haiku 5.5；Agnes AI、Ambient、IteraCompute、Poe、Scaleway、SenseNova 也有各自调整。
模型目录新增 AI/ML API、LowRouter 和 Prime Inference 三家 provider
v4.1.24 更新刷新了模型目录，新增 Claude Haiku 5.5，以及 AI/ML API、LowRouter、Prime Inference 等供应商。
v3.0.71 的模型目录新增 AI/ML API、LowRouter 和 Prime Inference 三个 provider；v0 provider 精简为仅提供默认模型 `v0-1.5-md`；OpenCode Go 迁移到新端点 `https://opencode.ai/inference/go/v1`；Cline 免费列表加入 Step 5 Preview。
Prime Intellect 推出了 Prime Inference，基于 vLLM 大规模部署 GLM-5.3 模型
选择 agent 推理服务时应关注其在真实 agent 负载下的端到端表现，而非只看 benchmark 上的解码速度
Prime Inference 在推理层对工具调用的结构化输出和函数调用稳定性做了保障
Prime Inference 在 prefill/decode 拓扑上做了专门设计，以区分两个阶段的计算资源分配
还有 1 条时间轴事件
全部知识事实 (8)
选择 agent 推理服务时应关注其在真实 agent 负载下的端到端表现，而非只看 benchmark 上的解码速度
75%待验证模型目录新增 AI/ML API、LowRouter 和 Prime Inference 三家 provider
50%待验证Prime Inference 针对智能体（agent）工作负载做了专门优化
50%待验证Prime Inference 在 prefill/decode 拓扑上做了专门设计，以区分两个阶段的计算资源分配
50%待验证Prime Inference 在推理层对工具调用的结构化输出和函数调用稳定性做了保障
50%待验证Prime Intellect于2025年10月2日上线Prime Inference，并在GB200 NVL72上实现相同GPU数量承载75%更多请求的生产数据
50%待验证v4.1.24 更新刷新了模型目录，新增 Claude Haiku 5.5，以及 AI/ML API、LowRouter、Prime Inference 等供应商。
50%待验证Prime Intellect 推出了 Prime Inference，基于 vLLM 大规模部署 GLM-5.3 模型
50%