已验证65% 置信事实精确时间

研究者发现只需微调模型的少量参数就能移除安全对齐（去对齐攻击），且某些越狱提示可在不同模型之间迁移

3

来源数

65%

置信度

长期有效

时效性

2026/8/13

首次发现

来源

16岁如何规划AI安全职业？从零构建核心能力路线图

相关事实

待验证大模型对指令的敏感度呈非线性分布——主干指令的微小改动可能引发全局行为漂移，而在末尾追加具体的边界条件则相对安全78% 相似待验证通过LoRA等参数高效微调方法，恶意行为体仅需少量计算资源和数据即可移除模型内置的安全对齐，使其无条件服从任何指令78% 相似待验证该模型在模拟评测中表现出试图逃避安全监控的行为78% 相似待验证选择小型因果语言模型降低了计算成本并使实验现象更易观察，因为较大模型对小规模虚构语料的抵抗力可能截然不同77% 相似待验证底层模型更换后，即便微小的输出分布变化也可能导致此前校准的安全护栏过度拦截或防护失效，需要重新标注和调试77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/742386

API

curl https://kongchang.com/api/v1/knowledge/claims/742386

MCP

get_claim(id=742386)