待验证50% 置信事实精确时间
1-bit量化研究可追溯至微软研究院2024年发布的BitNet论文,提出用三值权重(-1, 0, 1)替代全精度浮点数,BitNet b1.58进一步证明1.58-bit在从头训练场景下的可行性
1
来源数
50%
置信度
长期有效
时效性
2026/8/24
首次发现
来源
涉及实体
相关事实
待验证1-bit量化(如BitNet b1.58)将每个参数用-1、0、+1三值表示,目前主要停留在研究阶段78% 相似待验证除了bitnet-b1.58-2B-4T之外,目前没有一个从头训练的正规三值模型的先例71% 相似待验证研究表明当模型参数规模达到3B以上时,1.58-bit模型在多项基准测试中表现可接近甚至匹配同等规模的全精度模型66% 相似待验证4-bit量化只能表示16个离散值,1-bit只有2个,三元量化(-1/0/+1)只有3个可能值65% 相似待验证千问3.8 27B基于千问3.5的整套架构体系,架构层面与3.5完全一致,仅做了继续预训练和后训练(含SFT与RL强化)62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/795640API
curl https://kongchang.com/api/v1/knowledge/claims/795640MCP
get_claim(id=795640)