AI智能体能否取代安全工程师？从编程Agent看行业真相

引言：AI挖漏洞，安全工程师要失业了吗？

"AI都可以挖漏洞了，安全工程师是不是全部都要失业了？"这是网络安全从业者和学习者最近频繁提出的问题。随着大语言模型能力飞速提升，从DeepSeek到豆包，从ChatGPT到各类AI编程工具，人工智能似乎正在渗透到网络安全的每一个角落。

拥有多年安全攻防经验、近三年专注研究AI安全与AI辅助渗透的安全讲师吴亚（JK特朱江），在一场直播中系统性地拆解了这个问题。他的核心观点是：要回答AI能否取代安全工程师，首先必须搞清楚AI在网络安全行业的实际应用到底处于什么阶段——是理论阶段、初级应用阶段，还是已经大规模落地？

从聊天工具到AI智能体：能力的质变

聊天工具的天花板：只能动口，不能动手

豆包、DeepSeek、Kimi这类AI聊天工具，大多数人已经在日常使用了——查资料、写代码、画图、生成视频，甚至有人用它来看病咨询和情绪疏导。在编程场景中，你让豆包"用Python写一个网络端口扫描器"，它能快速生成可运行的代码，比起以前在GitHub上到处找代码片段、复制粘贴再调试，效率提升了一个量级。

但问题出在更复杂的场景。当你需要开发一个完整的系统（比如一个基于Spring Boot + MyBatis的招聘系统）时，豆包只能告诉你代码怎么写，你需要自己打开IDE、创建文件、粘贴代码、运行调试、遇到报错再回来问它、再粘贴修改……在两个工具之间反复切换，效率大打折扣。

这就是传统AI聊天工具最大的局限：它只能"动口"，不能"动手"。 它无法帮你新建文件、运行命令、连接数据库、打开浏览器——这些实际操作一个都做不了。

Agent智能体：AI长出了手脚

真正的变革来自于**Agent（智能体）**的出现。Agent概念源自人工智能研究中的"自主代理"理论，最早可追溯到1980年代分布式人工智能领域。但真正让Agent从学术概念走向工程落地的，是2023年以来大语言模型能力的突破。OpenAI的Function Calling机制、LangChain框架的工具链编排、以及ReAct（Reasoning and Acting）推理范式的提出，为LLM赋予了"思考-行动-观察"的循环能力。当前主流AI Agent架构通常包含一个LLM作为"大脑"、一套工具集作为"手脚"、以及记忆模块作为"经验库"，三者协同才能实现真正的自主任务执行。

以字节跳动推出的Trae、GitHub Copilot、Cursor、Claude Code、腾讯CodeBuddy等为代表的AI编程智能体，与聊天工具有着本质区别。

吴亚老师在直播中现场演示了Trae的工作流程：只需要给它一段简单的需求描述，它就能自动分析任务、拆解步骤、创建项目目录结构、编写前端后端代码、配置数据库——整个过程完全自主完成，用户只需要最后"验收"即可。哪怕你从未学过任何编程语言，也可以通过AI Agent开发出一个完整的项目。

AI智能体的六大核心能力：

自主感知：感知当前环境信息，如系统版本、磁盘文件、项目运行状态等
规划：根据用户需求自动拆分任务步骤
决策：根据感知到的情况决定下一步操作
执行：运行系统命令、创建文件、启动项目等实际操作
记忆：在整个任务周期内保持上下文记忆，而非像聊天工具那样每个会话独立
工具调用：调用外部工具完成具体任务

正是这些能力的组合，让智能体从"只会说"进化到了"能做事"。

小龙虾与Hermes：AI智能体的新高度

为什么它们能在GitHub爆火？

最近在GitHub上爆火的两个项目——小龙虾（Crawfish）和Hermes（爱马仕），在短时间内获得了超过20万Star。GitHub Star数量是衡量开源项目受关注程度的重要指标之一，一个项目获得20万Star意味着它在全球开发者社区中引起了极大关注——作为对比，Linux内核在GitHub上约有18万Star，React约有23万Star。不过Star数量并不等同于项目的技术成熟度或生产可用性，很多爆火项目可能处于早期实验阶段。开源社区的这种"注意力经济"现象，反映了开发者群体对AI Agent这一方向的强烈期待。

它们相比普通编程智能体，有几个关键差异：

完全自主的任务拆分：符合智能体核心能力的完整实现
操作系统级权限：可以直接操作你的操作系统（因此建议安装在虚拟机中，避免安全风险）
24小时驻留运行：不像豆包那样依赖网页会话，它持续运行在你的电脑上，支持定时任务（如每天上午10点汇总热点新闻、每晚9点生成数据报表）
远程操控：通过微信、钉钉、飞书等配置API后，可以远程下发指令

其中Hermes还具备自动进化能力——运行时间越长，表现越强。不过目前它只有字符终端界面，没有图形化操作界面，对普通用户来说使用门槛较高。

一个值得思考的应用场景

你人在三亚沙滩上晒太阳，用微信给电脑上的小龙虾发一条指令，它就在你的电脑上自动完成任务。这不再是科幻，而是已经可以实现的现实——尽管产品成熟度还有待提升。

AI对网络安全行业的真实影响

AI幻觉问题：为什么不能盲目信任

吴亚老师特别强调了一个关键认知：大语言模型的本质是概率生成器，不是真正的无所不知。 AI幻觉（即"一本正经地胡说八道"）是不可避免的。

AI幻觉（Hallucination）的根本原因在于大语言模型的生成机制——它本质上是在做"下一个token的概率预测"，而非从一个确定性知识库中检索事实。当模型在训练数据中没有见过某个问题的准确答案时，它会基于统计规律"编造"一个看起来合理但实际错误的回答。在网络安全场景中，这种幻觉尤其危险：比如AI可能会编造一个不存在的CVE编号、给出错误的漏洞利用路径、或者误判一段安全代码存在漏洞。目前业界主要通过RAG（检索增强生成）、知识图谱约束、以及人类反馈强化学习（RLHF）等手段来缓解幻觉问题，但尚无法完全消除。

这意味着，AI可以是安全工程师的强力辅助工具，但无法完全替代人类的专业判断。

AI在安全领域的应用现状

从直播内容可以看出，AI在网络安全领域目前处于初级应用阶段向深度应用过渡的时期：

已经能做的：辅助编写安全工具、自动化脚本、辅助代码审计、解CTF题目、辅助渗透测试的信息收集和初步分析
还做不好的：复杂的逻辑推理、多步骤的攻击链构建、需要创造性思维的漏洞挖掘、对业务逻辑的深度理解
不应该做的：完全依赖AI进行安全决策，忽视人工验证

理解AI为何难以完全替代安全工程师，需要了解现代网络安全攻防的本质复杂性。一次完整的渗透测试通常包含信息收集、漏洞扫描、漏洞利用、权限提升、横向移动、数据获取、痕迹清理等多个阶段，每个阶段都需要根据实时反馈动态调整策略。更关键的是，很多高价值漏洞（如业务逻辑漏洞、条件竞争漏洞）需要对目标系统的业务流程有深入理解，这种"上下文感知"能力目前仍是AI的短板。此外，真实攻防环境中存在大量WAF绕过、流量检测规避等对抗性操作，需要创造性思维而非模式匹配。

对安全从业者的实用建议

吴亚老师的态度很明确：不是不需要学安全技术了，而是需要在掌握安全技术的基础上，学会用AI来放大自己的能力。 那些认为"只学AI挖漏洞就行"的想法是危险的——没有扎实的安全基础，你甚至无法判断AI给出的结果是否正确。

总结：AI是武器，不是替代者

从聊天工具到编程Agent，从普通智能体到小龙虾和Hermes，AI的能力边界在快速扩展。但至少在当前阶段，AI更像是安全工程师手中的一把新武器，而非取代安全工程师的终结者。

真正应该担心的，不是AI会取代你，而是会用AI的安全工程师会取代不会用AI的安全工程师。勤学苦练基础技术，同时拥抱AI工具，才是这个时代安全从业者的正确姿势。

最后，无论掌握了多么强大的技术，都请牢记：技术用于正途，网络安全法的红线不可触碰。