[控场AI]
概念Inoculation Prompting

接种提示

一种传统的对齐训练方法,通过在有害行为示例前加明确提示词让模型学会区分被提示的坏行为和自发行为,从而在正常对话中抑制有害行为

来源文章