待验证50% 置信观点精确时间
网络安全能力过滤往往只能降低模型在特定提示下的表现,难以彻底抹除预训练阶段已习得的知识。
1
来源数
50%
置信度
长期有效
时效性
2026/10/23
首次发现
来源
涉及实体
相关事实
待验证过滤策略设定阈值,直接剔除低质量示范,训练集变小但更干净,问题在于阈值选择和过滤后数据量骤降。75% 相似待验证不要把被阻断轨迹排除在训练之外,因为过滤掉被阻断轨迹仍然是在选择通过规避监控器获得高奖励的轨迹,隐含地反向选择被阻断轨迹,由于softmax性质,提高规避概率必然以降低非规避概率为代价。74% 相似待验证去对齐化(abliteration/uncensoring)通过微调技术移除安全限制,常见方法包括在无拒绝数据集上继续训练、通过表征工程修改模型内部的拒绝方向向量74% 相似待验证微调过程中过度依赖微调部分,可能正是罕见类能力被遮蔽的根源;将模型计算适度导向预训练组件,或许是一条更稳健的微调路线。74% 相似待验证许多影响结果的隐性知识(如优化器前几百步需要特殊的学习率预热策略)难以被标准化表格完整捕捉74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1091064API
curl https://kongchang.com/api/v1/knowledge/claims/1091064MCP
get_claim(id=1091064)