待验证50% 置信解决方案精确时间
ERRC(熵再投资残差修正)是一种针对张量并行LLM推理中GPU间通信瓶颈的方案,它通过压缩交换数据来降低通信量,并把节省出的空间用于补偿量化误差
1
来源数
50%
置信度
长期有效
时效性
2026/10/4
首次发现
来源
涉及实体
相关事实
待验证LLM解码过程是内存带宽受限(memory bound)的,GPU在逐token生成时大部分时间处于等待数据搬运的状态58% 相似待验证DA作用于计算逻辑层,与量化和驱逐等作用于存储传输层的KV缓存压缩技术优化维度正交互补,可叠加使用57% 相似待验证AI服务器与GPU集群更新换代快、硬件生命周期短,短生命周期资产意味着更集中、更迅速的成本摊销,放大了折旧抵扣效果56% 相似待验证传统AI芯片(GPU或TPU)将模型权重存储在内存中,计算单元按需读取执行,大量时间和能耗消耗在权重搬运上56% 相似待验证TencentDB Agent Memory采用四层渐进式记忆管道,将记忆处理拆解为原始信息捕获、结构化处理、语义压缩到长期沉淀多个阶段56% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/972858API
curl https://kongchang.com/api/v1/knowledge/claims/972858MCP
get_claim(id=972858)