[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
TaSQ
一种针对标准LLM的KV缓存量化方法，可与LoopVQ叠加使用实现更低比特率的量化
时间轴 (近 90 天)
11月4日
LoopVQ与TaSQ结合时，在0.25比特/元素的极低比特率下仍能保留大部分BF16精度。
待验证
50%
全部知识事实 (1)
待验证
LoopVQ与TaSQ结合时，在0.25比特/元素的极低比特率下仍能保留大部分BF16精度。
50%
来源文章
LoopVQ：循环Transformer的亚1比特KV缓存量化
11月4日