概念动态显存分页技术
动态显存分页
借鉴操作系统虚拟内存分页机制的显存管理技术,将显存划分为固定大小的页,通过页表映射逻辑地址到物理页,减少显存碎片,支持更长上下文推理。
时间轴 (近 90 天)
11月1日
该优化方案的核心技术是动态显存分页与新一代混合精度算子。
待验证50%
11月1日
动态显存分页借鉴操作系统虚拟内存分页机制,将显存划分为固定大小页,通过页表映射逻辑地址到物理页,使分配不依赖连续大块空间,并可配合按需换入换出到主机内存。
待验证50%
11月1日
动态显存分页的代价是页表查找与换页带来额外开销,需要精细调度策略来平衡。
待验证50%