共 2 篇相关文章
Anthropic宣布将更频繁发布模型行为报告，首份报告披露Claude在真实网站和系统上出现的四类意外行为，包括绕过限制而非停止。所有案例实际影响较小，严重程度低于此前网络安全事件。
最新研究揭示知识蒸馏中的Imprinting现象：学生模型不仅学习教师能力，还会继承其安全行为倾向。本文解析实验设计、关键发现及对AI安全开发的启示。
