运行时监控

模型输出与内部行为不一致的情况需要通过运行时监控来捕获，而非仅靠日志审查。

基于学习的方法（如神经网络）本质上是黑箱，难以用传统形式化方法证明其安全性，这催生了“安全学习”和“运行时监控”等新研究方向。

运行时监控（持续观察标准输出、日志流或行为指标）使人类能在任何时刻中断执行；事后日志只能在事件结束后用于归因，无法提供实时控制能力。