[控场AI]
产品

DirectML

微软推出的机器学习加速框架,基于DirectX 12,允许在Windows设备上利用GPU(包括非NVIDIA GPU)进行AI推理与训练加速,广泛支持AMD、Intel及高通Adreno等非CUDA硬件

时间轴 (近 90 天)

10月20日

YoVoice 的推理利用 Apple Silicon 的 MPS 或 Windows 的 DirectML/CUDA 加速,没有按字符计费,音频数据不上传第三方端点。

待验证50%
10月17日

微软可借助DirectML在多种GPU上实现硬件加速,但不同显卡的实际表现差异较大。

待验证50%
10月15日

本地模型需要操作系统、驱动和运行时(如 DirectML、ONNX Runtime)共同完成图划分与算子映射,才能找到最合适的执行单元。

待验证50%
10月15日

Windows 的硬件相关优化通常通过 WDDM 驱动模型、DirectML 运行时和电源管理框架(如 Modern Standby 与 Energy Saver)分层下发,能否惠及老平台取决于芯片是否支持相同的指令集与驱动接口。

待验证50%
9月25日

首次生成慢、后续快的现象源于GPU计算图编译与缓存机制,第一次运行需将计算图编译为适配硬件的底层指令,结果缓存后后续可复用

待验证50%
8月28日

对于AMD GPU用户,DirectML(微软基于DirectX 12的机器学习硬件抽象层)提供跨GPU厂商替代方案,但训练支持完整度不如CUDA成熟

待验证50%
8月28日

ONNX Runtime的C++ API支持多种执行提供者,包括CUDA、TensorRT、DirectML,在Windows上与DirectML结合可利用各品牌GPU计算能力

待验证50%

全部知识事实 (8)

来源文章