待验证50% 置信事实精确时间
随机方向控制的干预效果优于精心挑选的 SAE 特征时,说明 logprob 的下降很可能来自扰动幅度,而非特征本身的语义作用。
1
来源数
50%
置信度
长期有效
时效性
2026/11/4
首次发现
来源
涉及实体
相关事实
待验证logprob 下降本身无法区分特征特异性抑制与幅度伪影——只要激活扰动足够大,方向是否对准目标特征并不重要。77% 相似待验证修改采样时的 logits 即在 softmax 之前对向量逐维加减偏置值,加正值提升某类 token 被选中的概率,减负值则抑制,不改变模型权重,只在推理阶段介入。71% 相似待验证logit bias的偏置值选择没有万能公式,建议从小幅调整开始,用有代表性的提示词测试效果并观察副作用,再逐步调整。69% 相似待验证RAFT利用节点记忆的变化幅度来判断事件的重要性:记忆变化小意味着该事件对后续预测影响有限,可作为冗余过滤的依据。69% 相似待验证logprob衡量的是生成该token有多顺,并不等同于该事实有多正确,模型完全可能流畅而高概率地生成一个错误陈述,因此它仍是相对信号而非绝对保证。67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1133785API
curl https://kongchang.com/api/v1/knowledge/claims/1133785MCP
get_claim(id=1133785)