待验证60% 置信事实时间未知
2024年以来，多模态越狱攻击开始出现，攻击者将恶意指令嵌入图片或音频中绕过纯文本层面的安全检测
2
来源数
60%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
LLM Guardrails Index：最全面的大模型安全护栏评估体系详解
twitterguardrails_ai
涉及实体
相关事实
待验证2024年已有多份威胁情报报告记录了攻击者利用AI辅助编写钓鱼邮件、生成恶意代码变体和自动化侦察流程的案例80% 相似待验证2024年已有安全研究者演示了通过在网页中嵌入隐藏指令来劫持RAG系统输出的间接提示注入攻击76% 相似待验证2024年已有多起公开案例证明提示词注入攻击路径的可行性，包括通过恶意网页劫持浏览器控制型Agent执行转账操作75% 相似待验证2023-2024年间，安全研究者多次在Hugging Face平台上发现恶意模型，攻击者通过在模型序列化文件中嵌入恶意代码实现攻击74% 相似待验证2023年卡内基梅隆大学发表的对抗性攻击论文表明，即便是最先进的安全系统也存在可被系统性利用的盲点72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/27819API
curl https://kongchang.com/api/v1/knowledge/claims/27819MCP
get_claim(id=27819)