Guardrail
在大语言模型训练和推理阶段内置的多层约束机制，包括RLHF价值对齐、输入输出内容过滤层及系统提示词行为规则，用于防止模型产生有害输出
核心事实
时间轴 (近 90 天)
护栏本身通常是一个轻量智能体，用结构化输出做二元判定，因此会增加一次额外的 LLM 调用开销。
Agents SDK 的护栏（Guardrail）机制在判定违反策略时抛出 InputGuardrailTripwireTriggered 或 OutputGuardrailTripwireTriggered 异常，立即中止智能体运行，而非仅返回警告。
Guardrail（护栏）同时承担三个职责：检查输入、过滤输出、限制预算。
Reflection Loop对应自愈、Human Loop对应授权、Guardrail对应边界，三者缺一不可。
Guardrail的输入侧拦截prompt injection攻击，输出侧审查生成内容，预算侧为每次会话设定费用上限并在触顶时终止。
护栏（Guard）位于模型与工具函数之间，承担安全校验职责，在调用工具之前先行校验，是防范提示词注入和异常操作的关键机制
护栏机制制定三条规则：AI 不许编造、不知道就必须说不知道、回答时始终引用来源
新版本允许自定义输出守护栏被拦截时的提示消息
生成答案并引用来源的模式有助于缓解 AI 幻觉带来的信任问题
护栏（Guardrail）在AI系统领域泛指对模型或Agent输出及行为施加的约束层
还有 2 条时间轴事件
全部知识事实 (12)
生成答案并引用来源的模式有助于缓解 AI 幻觉带来的信任问题
65%已验证Guardrail护栏机制是一套对模型输入输出进行校验和过滤的机制，可在输入进入模型前或输出返回用户前拦截敏感信息、非法请求或不符合规范的内容
65%已验证Guardrail是一套对模型输入输出进行校验和过滤的机制，可在输入进入模型前或输出返回用户前拦截敏感信息
65%待验证护栏本身通常是一个轻量智能体，用结构化输出做二元判定，因此会增加一次额外的 LLM 调用开销。
50%待验证Agents SDK 的护栏（Guardrail）机制在判定违反策略时抛出 InputGuardrailTripwireTriggered 或 OutputGuardrailTripwireTriggered 异常，立即中止智能体运行，而非仅返回警告。
50%待验证Guardrail的输入侧拦截prompt injection攻击，输出侧审查生成内容，预算侧为每次会话设定费用上限并在触顶时终止。
50%待验证Guardrail（护栏）同时承担三个职责：检查输入、过滤输出、限制预算。
50%待验证Reflection Loop对应自愈、Human Loop对应授权、Guardrail对应边界，三者缺一不可。
50%待验证护栏（Guard）位于模型与工具函数之间，承担安全校验职责，在调用工具之前先行校验，是防范提示词注入和异常操作的关键机制
50%待验证护栏机制制定三条规则：AI 不许编造、不知道就必须说不知道、回答时始终引用来源
50%待验证新版本允许自定义输出守护栏被拦截时的提示消息
50%待验证护栏（Guardrail）在AI系统领域泛指对模型或Agent输出及行为施加的约束层
50%