AI安全护栏

护栏的充分性难以量化，模型可能通过越狱提示、多步推理或工具组合绕过单层防护。

如果公司宣称模型不会访问未经授权的系统，但实际发生了此类事件，就可能构成虚假宣传，触及消费者保护红线。

护栏需要在安全与可用性之间取得平衡，过严会降低产品价值，过松则带来风险，而这一平衡点目前尚无行业统一标准。