#GPU选型

RTX 3090 vs L40S实测：批处理大小如何颠覆性能与成本

实测RTX 3090与L40S在vLLM下的性能与成本：batch 1时3090略快且成本减半，batch 128时L40S反超，7B AWQ下3090仅0.46倍速度。选型取决于并发与GPU利用率。