RTX A6000
NVIDIA 2020年发布的专业工作站显卡,基于Ampere架构,48GB GDDR6显存,属于RTX A系列
时间轴 (近 90 天)
市场上至少有四款名为“RTX 6000”的NVIDIA专业显卡:Quadro RTX 6000 (Turing, 2018, 24GB GDDR6, 672 GB/s)、RTX A6000 (Ampere, 2020, 48GB GDDR6, 768 GB/s)、RTX 6000 Ada Generation (Ada Lovelace, 2022, 48GB GDDR6, 960 GB/s)、RTX PRO 6000 Blackwell (Blackwell, 2025, 96GB GDDR7, 1,597–1,792 GB/s)。
RTX PRO 6000 Blackwell的compute capability为12.0,RTX 6000 Ada为8.9,RTX A6000为8.6。
RTX A6000 是 Ampere 架构,没有原生 FP8 硬件,sglang 将 FP8 权重通过 Marlin 内核即时解包,基础 Qwen3.8-27B 在该卡上解码速度为 24 tok/s,而 RedHatAI 的 INT4 W4A16 量化在相同卡、相同 1M 上下文下达到 41 tok/s。
基于RTX A6000上约250词的块测算,all-MiniLM-L6-v2每秒处理1,074.7个块,100万块耗时约16分钟;Qwen3-Embedding-8B每秒处理26.1个块,100万块耗时约10.6小时
全部知识事实 (4)
市场上至少有四款名为“RTX 6000”的NVIDIA专业显卡:Quadro RTX 6000 (Turing, 2018, 24GB GDDR6, 672 GB/s)、RTX A6000 (Ampere, 2020, 48GB GDDR6, 768 GB/s)、RTX 6000 Ada Generation (Ada Lovelace, 2022, 48GB GDDR6, 960 GB/s)、RTX PRO 6000 Blackwell (Blackwell, 2025, 96GB GDDR7, 1,597–1,792 GB/s)。
50%待验证RTX PRO 6000 Blackwell的compute capability为12.0,RTX 6000 Ada为8.9,RTX A6000为8.6。
50%待验证RTX A6000 是 Ampere 架构,没有原生 FP8 硬件,sglang 将 FP8 权重通过 Marlin 内核即时解包,基础 Qwen3.8-27B 在该卡上解码速度为 24 tok/s,而 RedHatAI 的 INT4 W4A16 量化在相同卡、相同 1M 上下文下达到 41 tok/s。
50%待验证基于RTX A6000上约250词的块测算,all-MiniLM-L6-v2每秒处理1,074.7个块,100万块耗时约16分钟;Qwen3-Embedding-8B每秒处理26.1个块,100万块耗时约10.6小时
50%