已过期50% 置信基准精确时间

在 1,000 req/s 轻负载下，Bifrost p50 为 0.72ms，Antirion 为 0.76ms，两者性能接近。

1

来源数

50%

置信度

短期 (~14 天)

时效性

2026/10/18

首次发现

此条事实已过期，仅作历史留存，不再代表当前状态

有效期至：2026/11/1(已过期)

来源

Rust 打造全球最快 AI 网关：Antirion 性能实测与架构解析

涉及实体

Antirionproduct Bifrostproduct

相关事实

已验证LLaMA-2-7B使用FP16精度时每个token的KV Cache约占0.5MB61% 相似待验证RELAGRAM 的参数量仅为 0.53M。61% 相似待验证qwen3.8 的延迟 p50 为 18885ms，p95 为 42368ms，比 Claude Sonnet 5 在同任务上的 1080ms 中位延迟慢 15 到 20 倍。60% 相似待验证在 AMD RX 7900 显卡实测中，Ornith 35B 总体准确率 85%（21 项通过 18 项），生成速度 74 tokens/秒，提示词处理 850 tokens/秒，显存占用 20GB60% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1062951

API

curl https://kongchang.com/api/v1/knowledge/claims/1062951

MCP

get_claim(id=1062951)