T4
NVIDIA Tesla T4 是一款基于 Turing 架构的云端推理 GPU，被动散热，常用于数据中心和云服务。
核心事实
时间轴 (近 90 天)
测试基于Qwen3.8-27B模型，使用EXL3 4.0bpw量化、DFlash2块草稿器（EXL3 4bpw，7-token草稿），贪心解码，在2块T4显卡上运行。
作者在运行评测前固定了阈值，其中指标 T4 要求“错误地判断为已覆盖”的比例不超过 5%。
作者在 T4 上用同一个模型和测试方法复现，8 并发时单请求解码 122–124 tokens/s，整台服务器产出 701–708 tokens/s，同样约为 5.7 倍差异。
在同一张T4上，vLLM 0.27.1在ready之后的8个请求总共只花了5.8秒；vLLM的启动开销约为171个计费秒中的165秒。
在Colab单张T4上运行SGLang 0.5.21加载Qwen2.5-0.5B-Instruct fp16模型，一次完整冷启动实测中，88%的计费时间花费在第一个用户请求完成之前。
在 T4 显卡上，Laya 单个问题耗时 33 毫秒，批量处理可压到 7 毫秒
作者称CWAA V6在一块T4 GPU上可达到0.38秒/步的训练速度且高度稳定
NVIDIA T4是2018年发布的推理优化GPU，拥有65 TFLOPS的FP16算力和16GB显存
全部知识事实 (7)
在 T4 显卡上，Laya 单个问题耗时 33 毫秒，批量处理可压到 7 毫秒
65%待验证测试基于Qwen3.8-27B模型，使用EXL3 4.0bpw量化、DFlash2块草稿器（EXL3 4bpw，7-token草稿），贪心解码，在2块T4显卡上运行。
50%待验证作者在运行评测前固定了阈值，其中指标 T4 要求“错误地判断为已覆盖”的比例不超过 5%。
50%待验证作者在 T4 上用同一个模型和测试方法复现，8 并发时单请求解码 122–124 tokens/s，整台服务器产出 701–708 tokens/s，同样约为 5.7 倍差异。
50%待验证在Colab单张T4上运行SGLang 0.5.21加载Qwen2.5-0.5B-Instruct fp16模型，一次完整冷启动实测中，88%的计费时间花费在第一个用户请求完成之前。
50%待验证作者称CWAA V6在一块T4 GPU上可达到0.38秒/步的训练速度且高度稳定
50%待验证NVIDIA T4是2018年发布的推理优化GPU，拥有65 TFLOPS的FP16算力和16GB显存
50%