[控场AI]
产品

VKORE

VIDRAFT推出的软件加速层,可在不改动NPU硬件的前提下提升推理性能,并支持Transformer的LoRA训练,数值精度与标准PyTorch高度对齐。

核心事实

时间轴 (近 90 天)

10月16日

VKORE 的路线存在权衡:重新发明跨硬件可移植的训练指令集会导致软件复杂度大幅上升,可能损失部分硬件级别的性能优化空间。

待验证50%
10月16日

VKORE 的工作方式分为三层:计算图分解、梯度编排软件化、分布式状态管理,通过软件级调度在 NPU 阵列上管理梯度流动与累积。

待验证50%
10月16日

VKORE 公开演示的里程碑包含:4600 万参数模型从零训练、运行在 32 块仅推理专用 NPU 芯片上、与 GPU 训练基线的损失相关性为 0.99。

已过期50%
10月16日

VIDRAFT Lab 公布了一项实验:一块仅为推理设计的 NPU 阵列在 VKORE 软件层调度下完成了语言模型从零开始的完整预训练,其损失曲线与 GPU 基线的相关性达到 0.99。

已过期50%
10月16日

以当前公开证据来看,NPU 还不能完全替代 GPU 做训练,因为 0.99 损失相关性仅成立于 4600 万参数、32 芯片的配置。

待验证50%
10月16日

当模型规模向十亿参数推进时,内存带宽、持续 I/O 吞吐和热负载会变成更严苛的约束,仅推理 NPU 未必能通过软件抽象弥补这些物理限制。

待验证50%
10月16日

目前 VKORE 和相关预训练框架尚未公开可用,来源报道中没有披露 Hugging Face 仓库、GitHub 链接或 API 端点。

已过期50%
10月15日

VIDRAFT 尚未发布明确的互操作文档,团队在生产环境依赖 VKORE 生成的 LoRA adapter 与标准 PyTorch 或 Hugging Face 推理流水线的兼容性前应自行验证。

已过期50%
10月15日

VKORE 与 PyTorch 在 LoRA 训练中的数值一致性达到 0.9999。

待验证50%
10月15日

VKORE 的基准测试使用 Google 开源的 Gemma 4 26B 模型,运行在一台八卡、32 芯片的韩系 NPU 服务器上。

待验证50%

还有 37 条时间轴事件

全部知识事实 (20)

部分验证

VKORE旨在NPU上重建类似CUDA的抽象层,向上提供统一的训练与推理接口,向下适配不同厂商的NPU指令集,使数据中心可以像更换存储或网卡一样更换加速器,而无需重写模型代码,从而打破单一供应商锁定。

65%
部分验证

VKORE是面向NPU的软件加速层,被设计为硬件无关,使数据中心可以混合使用GPU和NPU并仍从同一套栈进行训练和推理服务。

65%
部分验证

VKORE被定位为硬件无关的软件层,面向混合部署GPU和NPU的数据中心,不绑定特定芯片厂商。

65%
待验证

以当前公开证据来看,NPU 还不能完全替代 GPU 做训练,因为 0.99 损失相关性仅成立于 4600 万参数、32 芯片的配置。

50%
待验证

当模型规模向十亿参数推进时,内存带宽、持续 I/O 吞吐和热负载会变成更严苛的约束,仅推理 NPU 未必能通过软件抽象弥补这些物理限制。

50%
待验证

VKORE 的路线存在权衡:重新发明跨硬件可移植的训练指令集会导致软件复杂度大幅上升,可能损失部分硬件级别的性能优化空间。

50%
待验证

VKORE 的工作方式分为三层:计算图分解、梯度编排软件化、分布式状态管理,通过软件级调度在 NPU 阵列上管理梯度流动与累积。

50%
待验证

VKORE 与 PyTorch 在 LoRA 训练中的数值一致性达到 0.9999。

50%
待验证

评估闭源加速层如 VKORE 时,需警惕训练路径依赖厂商私有运行时可能导致的模型权重与 adapter 可移植性风险及迁移成本。

50%
待验证

VKORE 的基准测试使用 Google 开源的 Gemma 4 26B 模型,运行在一台八卡、32 芯片的韩系 NPU 服务器上。

50%
待验证

在 VKORE 场景中,0.9999 的数值一致性通常指两个计算后端(VKORE 与 PyTorch)在相同输入下输出张量的相关系数或逐元素匹配比例,并非位级相同。

50%
待验证

VKORE 扩展了 NPU 的可执行操作集以覆盖 LoRA 训练所需的反向传播原语,且据描述无需改动 NPU 固件。

50%
待验证

VKORE实现的推理加速效果为单用户3.8倍、服务器吞吐4.1倍。

50%
待验证

VIDRAFT正在构建的VKORE软件层目标是成为“NPU领域的CUDA”,覆盖推理加速、完整预训练和LoRA微调三项能力,此次发布的是预训练里程碑的公开验证产物。

50%
待验证

VIDRAFT验证了通用公开模型可以在同一块NPU上做推理和量化模型执行,说明VKORE层同时覆盖了训练和部署两端。

50%
待验证

LoRA微调是VKORE软件层的路线图项目,与推理加速和预训练并列,目前没有公开的时间表。

50%
待验证

VIDRAFT的同一套NPU方案已覆盖从零预训练、LoRA微调、推理加速(在通用开源模型上同样得到验证)、量化模型执行与加速等模型生命周期环节。

50%
待验证

VIDRAFT正在将上述能力整合为一个名为VKORE的NPU软件层,并将其定位类比为Nvidia通过CUDA构建的生态优势,描述为「NPU的CUDA」。

50%
待验证

VIDRAFT 计划将 VKORE 用于两类内部负载:AI 判断引擎(输出概率或分数而非自由文本)和递归自我改进模型(RSI,模型反复解题并把验证过的结果喂回自己的训练循环)。

50%
待验证

VIDRAFT 已提交 16 项与 VKORE 相关的专利。

50%

来源文章