[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
refusal alignment
拒绝对齐
指令微调语言模型中抵御有害请求的行为对齐机制,依赖于表示空间中特定的拒绝方向,是模型安全性的重要组成部分。
时间轴 (近 90 天)
11月5日
基于编码器的上下文压缩会系统性地削弱指令微调语言模型中的拒绝行为,尽管重建保真度很高。
待验证
50%
全部知识事实 (1)
待验证
基于编码器的上下文压缩会系统性地削弱指令微调语言模型中的拒绝行为,尽管重建保真度很高。
50%
来源文章
上下文压缩会削弱拒绝对齐吗?研究揭示语义保真不等于行为对齐
11月5日