AI热点风向标·07月03日早间版：AI应用安全prompt注入攻击

最近AI圈有几个话题特别火，今天拉了李博一起聊聊。第一个话题说起来有点让人后背发凉——又有新的prompt injection技术出来了，而且这次在推特上传播得很快。

对，这个事我也注意到了。Prompt injection其实不是新鲜词，但每隔一段时间就会有新变种冒出来，说明这个攻击面根本没有被真正堵死。

你可以把它理解成一种"话术劫持"——攻击者通过精心构造的输入，让大模型忽略原本的系统指令，转而执行恶意指令。就好比你雇了个员工，有人偷偷塞给他一张小纸条，他就不听你的了。

这个比喻太形象了。但我想问的是，为什么这次又火起来？是技术上有什么新突破，还是说又有人找到了什么特别刁钻的角度？

两个原因都有。一方面，现在大模型被接入的系统越来越多——邮件助手、客服机器人、代码工具——攻击面本身就在扩大。另一方面，新技术在绕过防御上确实有进展，比如利用多轮对话的上下文积累来逐步"洗脑"模型。

等一下，多轮对话洗脑这个说法很有意思。就是说不是一次性注入，而是慢慢渗透？

对，这就是所谓的multi-turn injection。单轮防御很多厂商已经做了，但跨多轮的语义漂移检测还很薄弱。HackerNews上的程序员们对这个讨论很激烈，有人直接说现在的guardrail就是个"纸糊的门"。

纸糊的门，这个说法够狠。那从产品角度来说，这对现在大量上线的AI应用意味着什么？

意味着风险被严重低估了。很多团队上线AI功能的时候，安全测试基本就是走个过场，prompt injection的红队测试根本没做充分。一旦有攻击者专门盯着这个打，后果可能很严重。

我觉得这里有个现实困境——做安全是成本，出问题才是教训。很多团队在没出事之前，根本不会把这个排到优先级里。

你说得对，这是行业通病。但我觉得2026年这个节点，监管压力在上来，欧盟AI Act已经在落地，国内也在收紧。以后"出了事再说"这条路会越走越窄。

所以这个话题火，其实是因为它踩在了一个很敏感的时间点上——AI应用大爆发，但安全基础设施还没跟上。

完全同意。这不只是技术问题，是整个行业在跑步前进时落下的一条腿。推特上传这个话题的人，很多是安全研究员，他们其实在发出一种警告信号。

好，这个话题聊得很过瘾。我们换一个方向，说说最近B站上特别火的一类内容——暑假靠Python加AI大模型接单变现，有人说两个月稳定了将近四万的收入。这个话题的互动数据相当高。

这类视频每年暑假都会冒出来，但今年的版本明显升级了——以前是"学Python接单"，现在直接加了AI大模型这个标签，听起来门槛更低、收益更高。

你说"每年都有"，是觉得这是个套路？

我不是说它完全是假的，但我对那个"两个月3.8万"的数字保持相当大的怀疑。这种内容的核心逻辑是：用一个极端案例做标题，吸引最大量的点击，然后视频里再慢慢说"这需要一定基础"。

但你不能否认，AI确实降低了一些接单的门槛。比如有人用AI辅助写爬虫、做数据分析脚本，效率确实提升了。

这个我同意，效率提升是真实的。AI能帮你补全代码、排查bug、快速生成模板，对有一定基础的人来说确实是个加速器。但这和"零基础暑假两个月赚四万"是两回事。

所以你觉得这类视频的真实受众应该是什么水平的人？

有一定编程基础、想通过接单验证自己能力的人，会从中获得一些实操思路。但如果真的是零基础大学生冲着那个数字去的，大概率会失望。

我觉得这里有个更值得讨论的问题——这类内容火爆本身说明了什么？是大家对AI变现的焦虑，还是说市场上真的有这个需求缺口？

两者都有，但焦虑成分更大。2026年就业市场压力摆在那里，暑假的大学生在刷到这类内容的时候，很难不心动。这种内容本质上是在贩卖一种"弯道超车"的想象。

但话说回来，哪怕是"贩卖想象"，如果它真的推动了一部分人去学Python、去了解大模型的API调用，结果也不全是坏的吧？

这个角度有意思。如果把它当作一个入门钩子，确实有价值。问题是大多数人被标题吸引进来，期望管理做得不好，很容易三天热度之后直接放弃。

所以这类内容的问题不是方向错，是预期差太大。

对，一句话总结就是：方向对，包装过度。

好，顺着这个话题，我们再聊聊B站上另一个火起来的内容——Loop Engineering加Hermes Agent的教程，打的旗号是"2026最新版"、"AI新趋势"。这个我不太熟，你来给大家讲讲。

这个方向其实挺有实质内容的。Loop Engineering，简单说就是让AI Agent在一个循环里自主执行任务——感知环境、做决策、执行动作、再感知——不断迭代，直到完成目标。

Hermes Agent是这个体系里的一个具体框架，主打轻量化和易上手。这类教程火起来，背后是整个Agentic AI的趋势在2026年进入了一个更普及的阶段。

你说"更普及的阶段"，是指技术成熟了，还是说教程内容本身变得更接地气了？

两个都有。框架层面，LangChain、AutoGen这些工具已经迭代了很多轮，稳定性和文档质量都上来了。内容层面，国内的创作者开始把这些东西本土化，做成中文教程，门槛感知降低了很多。

但我有个疑问——这类"从入门到实战"的教程，真的能让人学会做Agent开发吗？还是说又是一种包装？

这个要分开看。Loop Engineering的概念本身是有价值的，理解这个范式对做AI应用开发很有帮助。但"一个视频带你深度拥抱"这种说法……我觉得这是在高估视频的密度，也在低估这个领域的复杂度。

你可拉倒吧，"深度拥抱"这个词本来就是营销语言，不能当技术承诺来读。

行吧行吧，我承认我有点较真。但我想说的核心是：Agent开发的难点不在于框架的API怎么调，而在于任务分解、错误处理、状态管理这些更深层的工程问题，一个视频很难覆盖到。

这个说法我认同。不过从另一个角度看，这类教程火起来本身是个信号——开发者群体对Agent这个方向的兴趣已经从"听说过"变成了"想动手做"，这个转变挺重要的。

这个观察很准。去年大家还在讨论Agent是不是噱头，今年已经有大量人在找具体的实现路径了。这种从概念到实践的迁移，是一个领域真正走向成熟的标志。

所以这类教程的价值，可能更多在于它是个"入场券"——帮你建立基本的心智模型，然后你再去啃文档、做项目。

对，把它定位成"启蒙材料"而不是"完整教材"，预期就对了。B站这个平台的受众结构也决定了这类内容的定位——它不是面向资深工程师的，是面向想入门的人的。

把今天这三个话题串起来看，其实有个共同的底色——AI的能力边界和大众认知之间还有很大的落差。安全的漏洞被低估，变现的难度被高估，新框架的门槛被低估。

说得很准。这个落差既是风险，也是机会。填平它的过程，就是整个行业走向成熟的过程。只不过在这个过程里，会有很多人交学费。

好，今天就聊到这儿，三个话题都挺有嚼头的。下一期继续，中午见。