LPU
Groq设计的专用语言处理芯片，采用SIMD数据流架构与静态编译调度，通过确定性执行实现极低且稳定的推理延迟
核心事实
时间轴 (近 90 天)
Groq的核心产品LPU（Language Processing Unit）采用确定性的数据流架构，与英伟达GPU在训练与推理场景中的通用设计形成差异。
许多专用推理芯片（如Groq的LPU、Cerebras的晶圆级芯片、以及各类ASIC）通过牺牲通用性换取更高的能效比和更低的单次调用成本。
Groq 的 LPU 和 Cerebras 的 wafer-scale 引擎均属软硬一体方案，通过定制芯片把特定负载推到极限，但部署门槛高、灵活性差。
铭芯启睿第一代LPU不会采用RRAM，而是使用更成熟的存储介质；RRAM仍需攻坚容量，未来再争取与计算产品结合。
铭芯启睿首款LPU面向数万亿参数的完整模型，不依赖量化、投机解码等手段，追求每名用户每秒生成1000个Token的速度。
前Graphcore总裁兼大中华区总经理卢涛以CEO兼联合创始人的身份加入铭芯启睿，并带队启动第一代LPU研发。
卢涛加入后组建了一支十几人的LPU核心团队，覆盖硬件、编译器和系统软件等环节。
LPU并非统一标准术语，通常指面向大语言模型推理专门优化的处理器，强调低延迟、高Token吞吐与确定性执行，而非通用训练能力。
Groq 以其自研的 LPU（Language Processing Unit）硬件著称，主打极低延迟的推理速度；DeepSeek 提供多种规模的开源大模型 API，价格低廉且对开发者友好。
PaperToProfit 的视觉提取管线第二层备选是在 Groq 上运行的 Llama 3.2 Vision，利用 LPU 实现低延迟推理。
还有 13 条时间轴事件
全部知识事实 (20)
Groq是一家专注于AI推理加速的硬件和云服务公司，其核心产品是自研的LPU（Language Processing Unit）芯片，采用TSP架构
70%已验证Groq通过自研LPU芯片提供极低延迟的推理能力
65%已验证Groq LPU是推理专用芯片的代表，英伟达H100配备Transformer Engine
65%待验证Groq自研的LPU（Language Processing Unit）通过将模型权重静态编译到芯片的SRAM中，消除了动态内存访问的延迟，实现数百TPS的极高吞吐量
70%待验证Groq声称其LPU在推理任务中的能效比是同等算力GPU的10倍以上
60%待验证Groq的核心产品LPU（Language Processing Unit）采用确定性的数据流架构，与英伟达GPU在训练与推理场景中的通用设计形成差异。
50%待验证许多专用推理芯片（如Groq的LPU、Cerebras的晶圆级芯片、以及各类ASIC）通过牺牲通用性换取更高的能效比和更低的单次调用成本。
50%待验证Groq 的 LPU 和 Cerebras 的 wafer-scale 引擎均属软硬一体方案，通过定制芯片把特定负载推到极限，但部署门槛高、灵活性差。
50%待验证卢涛加入后组建了一支十几人的LPU核心团队，覆盖硬件、编译器和系统软件等环节。
50%待验证前Graphcore总裁兼大中华区总经理卢涛以CEO兼联合创始人的身份加入铭芯启睿，并带队启动第一代LPU研发。
50%待验证铭芯启睿第一代LPU不会采用RRAM，而是使用更成熟的存储介质；RRAM仍需攻坚容量，未来再争取与计算产品结合。
50%待验证LPU并非统一标准术语，通常指面向大语言模型推理专门优化的处理器，强调低延迟、高Token吞吐与确定性执行，而非通用训练能力。
50%待验证Groq 以其自研的 LPU（Language Processing Unit）硬件著称，主打极低延迟的推理速度；DeepSeek 提供多种规模的开源大模型 API，价格低廉且对开发者友好。
50%待验证PaperToProfit 的视觉提取管线第二层备选是在 Groq 上运行的 Llama 3.2 Vision，利用 LPU 实现低延迟推理。
50%待验证专用推理芯片（如Cerebras的晶圆级引擎、Groq的LPU等）和模型优化技术使AI推理成本快速下降。
50%待验证Groq 是一家提供推理加速服务的平台，通过自研的 LPU 芯片让开源大模型以极低延迟返回结果，并提供兼容 OpenAI 风格的 API。
50%待验证LPU（Language Processing Unit）是Groq自研的专用推理芯片，架构有别于NVIDIA GPU，延迟低但只支持特定模型
50%待验证LPU静态编排的代价是灵活性降低，模型结构改变就需要重新编译
50%待验证Groq的LPU和Cerebras的晶圆级芯片选择从架构层面另起炉灶，在特定推理场景下展现出数倍于GPU的吞吐性能
50%待验证Groq的LPU通过将模型权重完全加载到片上SRAM中，消除对外部HBM显存的依赖，从而降低推理延迟
50%