待验证50% 置信事实精确时间
字节团队用Qwen3-0.6B架构从头训练控制实验表明：所有采用分块压缩的模型都出现周期性准确率波动，波动周期严格等于压缩步长；去掉RoPE或换成平均分配门控权重后波动依然存在；无压缩的全注意力基线完全正常。
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
待验证拿针对性训练过的0.8B模型对比未微调的stock Qwen3.5-2B基础模型存在比较基准不对等的问题71% 相似待验证停止条件设计通常面临资源硬限制、振荡检测、性能阈值、收益递减检测四类权衡机制，与神经网络训练中的早停策略同源68% 相似待验证只要按固定长度做分块压缩，相位敏感性问题就无法避免，这是方案本身的结构缺陷，不是调参、换位置编码或后训练能根除的。67% 相似待验证Swift-Qwen3.8-27B 通过后训练手段将思考 token 削减 58.3%、推理速度提升 1.95 倍，同时准确率损失控制在 1% 以内67% 相似待验证实验表明对同一数据进行超过4个epoch的重复训练，性能提升趋于停滞，有时还会出现轻微性能退化67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1012264API
curl https://kongchang.com/api/v1/knowledge/claims/1012264MCP
get_claim(id=1012264)