待验证50% 置信事实精确时间
LPU（Language Processing Unit）是Groq自研的专用推理芯片，架构有别于NVIDIA GPU，延迟低但只支持特定模型
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
待验证Groq自研的LPU（Language Processing Unit）通过将模型权重静态编译到芯片的SRAM中，消除了动态内存访问的延迟，实现数百TPS的极高吞吐量76% 相似已验证Groq LPU是推理专用芯片的代表，英伟达H100配备Transformer Engine71% 相似已验证Groq采用LPU架构，通过编译时静态调度实现确定性计算调度，消除运行时调度开销以获得极低且一致的延迟71% 相似已验证Groq是一家专注于AI推理加速的硬件和云服务公司，其核心产品是自研的LPU（Language Processing Unit）芯片，采用TSP架构69% 相似待验证MLX在纯GPU推理时通常有优势，而GGUF在需要CPU/GPU混合调度时更灵活66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1002523API
curl https://kongchang.com/api/v1/knowledge/claims/1002523MCP
get_claim(id=1002523)