WebGPU
WebGPU是一种Web标准图形与计算API,由W3C制定,旨在为浏览器提供对底层GPU硬件的直接访问能力。它是WebGL的后继规范,支持现代图形管线操作和通用GPU计算(GPGPU),能够实现高性能3D渲染、图像处理及机器学习推理等任务。WebGPU设计上与Vulkan、Metal、Direct3D 12等原生图形API对齐,提供更低的CPU开销和更精细的GPU控制能力。
核心事实
时间轴 (近 90 天)
缺少独立 GPU 的设备运行 2B 参数模型时生成速度可能低于每秒 5 个 token
截至 2024 年,Chrome、Edge 等主流浏览器已默认支持 WebGPU,但 Firefox 和 Safari 的支持仍在推进中
Skim Recap 通过 LiteRT-LM 和 WebGPU 在浏览器端执行模型推理,实现完全本地运行,无需账户、无需托管 LLM API、数据不出本地
随着浏览器对 WebGPU 标准的逐步支持,本地推理和渲染速度持续提升
Chrome于2023年4月正式支持WebGPU,Firefox和Safari仍在跟进中
WebGPU是W3C标准化的浏览器图形和计算API,于2023年在Chrome中正式发布,旨在取代WebGL
WebGPU是W3C正在推进的新一代Web图形与计算API标准,旨在替代WebGL,对标Vulkan、Metal、Direct3D 12
浏览器端AI能力技术栈由WebGPU、WebNN等底层硬件加速标准协同构成
浏览器端推理的局限在于首次加载需下载数百 MB 模型文件,且受限于客户端硬件,可支持的模型规模有限
WebGPU是WebGL的下一代继任者,提供更底层的GPU访问能力和计算着色器(Compute Shader)支持
全部知识事实 (10)
WebGPU是W3C正在推进的新一代Web图形与计算API标准,旨在替代WebGL,对标Vulkan、Metal、Direct3D 12
65%待验证缺少独立 GPU 的设备运行 2B 参数模型时生成速度可能低于每秒 5 个 token
50%待验证截至 2024 年,Chrome、Edge 等主流浏览器已默认支持 WebGPU,但 Firefox 和 Safari 的支持仍在推进中
50%待验证Skim Recap 通过 LiteRT-LM 和 WebGPU 在浏览器端执行模型推理,实现完全本地运行,无需账户、无需托管 LLM API、数据不出本地
50%待验证随着浏览器对 WebGPU 标准的逐步支持,本地推理和渲染速度持续提升
50%待验证Chrome于2023年4月正式支持WebGPU,Firefox和Safari仍在跟进中
50%待验证WebGPU是W3C标准化的浏览器图形和计算API,于2023年在Chrome中正式发布,旨在取代WebGL
50%待验证浏览器端AI能力技术栈由WebGPU、WebNN等底层硬件加速标准协同构成
50%待验证浏览器端推理的局限在于首次加载需下载数百 MB 模型文件,且受限于客户端硬件,可支持的模型规模有限
50%待验证WebGPU是WebGL的下一代继任者,提供更底层的GPU访问能力和计算着色器(Compute Shader)支持
50%