概念defense in depth / 纵深防御
多层防御
网络安全领域的经典防御原则,通过在不同层次叠加多个独立安全机制,避免对单一控制点的依赖,使得任意单层失效不会导致整体安全崩溃,该原则也被应用于AI系统安全设计
时间轴 (近 90 天)
10月28日
在大模型场景中,典型的多层防御包括:训练阶段的对齐微调与红队测试、推理阶段的输入过滤与提示词加固、输出阶段的毒性分类器与内容审查、以及部署后的运行时监控与异常行为检测。
待验证50%
10月28日
神经元级分析可以作为多层防御的补充,但不应被视为万能解药。
待验证50%
10月11日
将AI安全完全寄托于模型自身的拒绝能力是有缺陷的架构思路,拒绝机制应当是多层防御体系中的一环
待验证50%