[控场AI]
概念动态显存分页技术

动态显存分页

借鉴操作系统虚拟内存分页机制的显存管理技术,将显存划分为固定大小的页,通过页表映射逻辑地址到物理页,减少显存碎片,支持更长上下文推理。

时间轴 (近 90 天)

11月1日

该优化方案的核心技术是动态显存分页与新一代混合精度算子。

待验证50%
11月1日

动态显存分页借鉴操作系统虚拟内存分页机制,将显存划分为固定大小页,通过页表映射逻辑地址到物理页,使分配不依赖连续大块空间,并可配合按需换入换出到主机内存。

待验证50%
11月1日

动态显存分页的代价是页表查找与换页带来额外开销,需要精细调度策略来平衡。

待验证50%

全部知识事实 (3)

来源文章