[控场AI]
概念refusal alignment

拒绝对齐

指令微调语言模型中抵御有害请求的行为对齐机制,依赖于表示空间中特定的拒绝方向,是模型安全性的重要组成部分。

时间轴 (近 90 天)

11月5日

基于编码器的上下文压缩会系统性地削弱指令微调语言模型中的拒绝行为,尽管重建保真度很高。

待验证50%

全部知识事实 (1)

来源文章