[控场AI]
概念defense in depth / 纵深防御

多层防御

网络安全领域的经典防御原则,通过在不同层次叠加多个独立安全机制,避免对单一控制点的依赖,使得任意单层失效不会导致整体安全崩溃,该原则也被应用于AI系统安全设计

时间轴 (近 90 天)

10月28日

在大模型场景中,典型的多层防御包括:训练阶段的对齐微调与红队测试、推理阶段的输入过滤与提示词加固、输出阶段的毒性分类器与内容审查、以及部署后的运行时监控与异常行为检测。

待验证50%
10月28日

神经元级分析可以作为多层防御的补充,但不应被视为万能解药。

待验证50%
10月11日

将AI安全完全寄托于模型自身的拒绝能力是有缺陷的架构思路,拒绝机制应当是多层防御体系中的一环

待验证50%

全部知识事实 (4)

来源文章