已验证65% 置信事实精确时间

模型越狱（Jailbreak）指通过精心构造的提示词绕过大模型的安全对齐机制，常见技术包括角色扮演攻击、多轮对话诱导、编码混淆

3

来源数

65%

置信度

长期有效

时效性

2026/8/23

首次发现

来源

AI自动挖漏洞实战：大模型安全攻防应用全解析

涉及实体

Jailbreakconcept

相关事实

已验证越狱是指通过构造特殊输入绕过大模型安全限制的攻击手法，常见形式包括角色扮演诱导、多轮对话累积绕过、编码混淆等76% 相似已验证越狱手法可分为提示注入、对抗性前缀攻击、多步骤语境构建以及自动化越狱69% 相似待验证大模型安全对齐本质上是在有用性与无害性之间寻找动态平衡，护栏过严损害用户体验，过松则留下安全漏洞66% 相似待验证护栏（Guardrails）在AI工程中泛指约束模型输出或行为范围的技术机制，可以是提示词层面的指令或代码层面的拦截逻辑64% 相似待验证博弈论中的囚徒困境和重复博弈理论预测，理性行为者在长期互动中往往倾向于合作63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/789950

API

curl https://kongchang.com/api/v1/knowledge/claims/789950

MCP

get_claim(id=789950)