AI大模型时代,小白也能掌握的网络安全新趋势!速收藏,一起进阶!

本文深入分析了当前网络安全攻防领域的新趋势,重点介绍了AI大模型如何影响漏洞挖掘方向。文章指出,提示词注入漏洞减少,大模型Web应用、国产中间件、前端JS代码、客户端漏洞及固件逆向成为新的攻击热点。AI自动化渗透技术进入实战阶段,大模型Agent安全问题凸显。同时,前端JS代码中的漏洞挖掘和边界设备漏洞挖掘也受到关注。传统Web安全漏洞虽然生存空间受压缩,但仍作为攻击链入口具有重要价值。文章强调AI大模型正改变渗透测试和红队攻防模式,提升安全人员效率,但经验判断和复杂场景分析能力仍是核心。

图片

Part1 前言

在最近几年打过一些攻防比赛,也担任过几次比赛的专家裁判。过去比赛中攻击队员提交的漏洞类型变化不大,但是今年观察多场攻防比赛后发现,红队漏洞挖掘方向正在发生明显变化,AI大模型正在深刻影响攻防技术路线,JS代码分析、客户端漏洞、固件逆向、大模型应用安全等新方向逐渐成为热点。在一年一度的网络安全大考到来之际,将这些变化总结出来分享给大家。

Part2 技术研究过程

  • AI大模型攻击面

这个方向大家肯定比较关注,但今年观察到的情况与以往有所不同。

提示词注入漏洞明显减少:2025年的比赛中还能看到大量提示词注入类漏洞,但今年几次攻防比赛下来发现,这类漏洞出现频率明显降低,挖掘难度也越来越高。主要原因是目前针对提示词注入已经出现了相对成熟的防护方案,例如在大模型调用链路中增加安全中间层,对用户提交的prompt和模型的输出结果进行安全检测与分析,从而大幅降低提示词注入攻击成功的概率。

图片

大模型Web应用成为突破口:红队人员关注点更多集中在大模型聊天应用对应的Web系统上。例如通过目录扫描,可以发现一些隐藏路径中的业务系统漏洞,包括一级目录、二级目录中暴露的积木报表漏洞,以及近年来出现的React/Next.js RCE代码执行漏洞。除了模型本身的问题,大模型应用在业务权限控制方面也暴露出不少安全风险,例如水平越权、垂直越权等问题。大模型业务功能接口未授权访问;用户管理功能存在ID遍历、权限绕过;业务接口参数校验不足导致数据越权访问。此外,一些大模型业务功能接口中的翻页、排序等参数仍可能存在传统漏洞,例如 orderBy 参数引发的SQL注入问题。还见过Jeecg-Boot、JmReport之类漏洞的利用。

图片

AI自动化渗透进入实战阶段:在一次攻防比赛担任裁判期间,不少攻击队表示使用了AI自动化渗透技术。但仔细询问了解后,很多实际上是通过Skill编排、MCP调用等方式实现半自动化攻击流程。不过,也有极少数队伍已经使用较成熟的AI自动化安全平台,成功挖掘出多个高价值漏洞,甚至包括一些传统人工较难发现的业务逻辑漏洞。感叹时代变了。

大模型Agent方面的安全问题:随着大模型应用从简单聊天向Agent自动化方向发展,具备代码执行、文件操作、数据分析等能力的AI Agent成为新的攻击面。今年比赛中已经出现通过构造特殊业务需求绕过限制,触发服务端代码执行功能,在沙箱环境中执行任意Python代码并获取容器权限的案例。这类漏洞本质上属于Agent工具调用权限控制和沙箱安全问题。AI Agent调用的数据查询能力缺少权限控制,导致越权查询敏感数据,导致了输出了不应返回的敏感数据。利用AI Agent工具调用能力实现命令执行的案例,攻击者通过构造特殊输入绕过安全限制,使服务端执行系统命令并返回执行结果。

图片

国产中间件漏洞

今年多场攻防比赛中还观察到,红队提交的国产中间件漏洞数量明显增加,例如东方通、宝兰德等国产中间件相关漏洞。这类漏洞此前也一直存在,但今年出现频率明显提升。推测其中一个重要原因是,部分安全研究人员在GitHub等平台公开了相关漏洞 的分析文章和自动化利用工具,大幅降低了漏洞验证和利用门槛,使更多攻击人员能够快速完成漏洞发现、验证和利用。

图片

前端js代码中的漏洞挖掘

今年攻防比赛中,一个比较明显的变化是,红队从前端JS代码中挖掘漏洞的数量明显增加,已经成为重要的突破方向。

这类漏洞主要集中在敏感信息泄露和接口安全问题,例如 API接口未授权访问、Key/Token泄露、JWT Token泄露 等。通过分析前端JS文件,攻击人员可以发现隐藏接口、测试账号、敏感参数以及后台功能入口,进一步造成数据泄露或权限获取。

推测出现这一趋势主要有几个原因:一方面,传统代码执行类漏洞越来越难挖掘,而Node.js、Vue.js、Python微服务等新型技术栈漏洞分析门槛较高;另一方面,AI大模型大幅降低了JS代码审计和接口分析的难度,使攻击人员能够快速梳理复杂前端逻辑,自动提取API接口、分析参数关系,发现一些隐藏较深的安全问题。

此外,前端漏洞通常不会触发传统WAF规则,攻击隐蔽性更强。例如,一个未授权访问漏洞可能直接导致大量业务数据泄露;而泄露的appKey、appSecret、accessToken等敏感凭证,甚至可能被用于控制物联网设备、摄像头或工业控制系统,引发更严重的业务安全风险。

比较常见的利用案例如下:

  1. JWT Token泄露导致权限绕过,发现隐藏测试账号以及用户敏感信息(银行卡号、身份证号、姓名、手机号等);

  2. 通过JS分析发现隐藏上传接口;

  3. 复杂业务越权漏洞,通过AI辅助分析复杂参数逻辑实现绕过;

  4. 利用AI结合JS逆向快速获取完整API接口清单;

  5. 摄像头系统中因appKey、appSecret、accessToken泄露导致设备安全问题,例如某威视、某石摄像头等相关利用场景。

图片

客户端漏洞挖掘门槛因AI降低

随着AI大模型的发展,客户端漏洞挖掘的门槛大大降低。过去需要大量逆向分析、漏洞研究经验的客户端安全问题,如今借助AI辅助代码分析、漏洞定位和利用思路生成,普通攻击人员也能够开展更深入的客户端漏洞挖掘。

去年年底在一次攻防比赛担任裁判期间,第一次看到红队提交了一类非常难得的聊天软件零点击漏洞。攻击者只需要向目标发送特定链接,无需用户点击操作,即可进一步获取Windows电脑甚至Android手机权限(苹果系统未受影响)。大体看了一下原理,是一个组合洞。攻击者利用聊天窗口中的内置浏览器内核对HTML内容进行解析,通过构造复杂JavaScript代码触发XSS问题,再结合此前Chrome浏览器内核存在的沙箱逃逸漏洞,最终将一个普通的XSS漏洞升级为零点击攻击。

图片

边界设备漏洞挖掘

随着AI大模型技术的发展,固件分析和逆向研究的门槛正在不断降低,过去,路由器、防火墙、网关等设备的漏洞挖掘通常需要较强的固件分析。逆向工程和漏洞利用能力,但近年来已经出现越来越多通过AI辅助完成固件分析的案例,边界设备漏洞也逐渐成为红队关注的重要方向。

近两年在多次攻防比赛中,多次看到有年轻的红队人员已经能够针对设备固件进行深入分析,挖掘出数组越界、栈溢出等0day漏洞,并通过IDA Pro完成详细逆向分析,最终构造可利用的Exploit。除了传统内存漏洞外,固件分析还可以发现大量隐藏的Web管理接口、未授权访问接口等问题。攻击人员通过分析固件中的HTTP服务逻辑,结合接口漏洞,可以进一步形成1-click(一点击)漏洞。

传统Web安全漏洞

随着近年来企业安全建设不断完善,WAF、防火墙、流量监控、AI安全研判以及安全运营体系逐渐成熟,传统Web漏洞的生存空间正在被压缩。简单的SQL注入、XSS、文件上传等常见漏洞越来越难以直接利用,难以触发安全设备告警的业务逻辑漏洞还有很多。

不过,传统Web漏洞和组件漏洞依然存在一定价值,在今年比赛中仍能看到 /nacos//druid/、Swagger、Spring Boot Actuator /heapdump 泄露,帆软报表漏洞、Spring Cloud Gateway漏洞、泛微E-cology 10 RuntimeUtil组件远程代码执行、GeoServer、Log4j2、Java反序列化等漏洞案例。相比过去,攻击者更多是将这些漏洞作为攻击链入口,结合权限绕过、业务逻辑分析和漏洞组合,进一步扩大攻击影响。

图片

Part3 总结

  1. AI大模型正在深刻改变渗透测试和红队攻防模式。从漏洞分析、代码审计、逆向分析到攻击链构建,AI已经成为提升安全人员效率的重要工具。

  2. 真正能用于实战的AI自动化平台已经出现,已经替代部分重复性较高的基础渗透工作,但红队人员的经验判断、攻击思维、漏洞组合能力以及复杂场景分析能力,仍然是AI难以完全替代的核心能力。

  3. 随着国产中间件在政企系统中的广泛应用,很多新创产品逐渐成为红队重点关注的攻击面。

  4. AI大模型降低了前端代码分析门槛,从JS中发现攻击入口正在成为红队新的常规能力。

想从事网络安全的同学,找工作最怕“理论都懂,实战发懵”。在面试中,HR和面试官更看重你对真实攻防场景的理解和动手能力。

为了帮大家搞定面试,我帮大家准备了一份 360智榜样学习中心独家《网络攻防知识库》。这份资料最大的亮点在于**“实战性”**:img

知识库由360智榜样学习中心独家打造出品,旨在帮助网络安全从业者或兴趣爱好者零基础快速入门提升实战能力,熟练掌握基础攻防到深度对抗。 img

从零到精通完整闭环:基础攻防→渗透测试→应急响应→CTF实战,5大模块200+课时,比大学教材更贴近企业实战!”

  • 涵盖 渗透测试案例分析实战技巧,直接对应面试真题;img
  • 包含 CTF竞赛基础HW行动攻防对抗 实录,丰富你的简历项目经验;img
  • 深入 十大安全漏洞利用技巧,掌握这些高阶技能,实战SRC挖洞赚钱。img

🎁 实战教学,专属靶场: 掌握这些高阶技能,谈薪更有底气。无论你是找渗透测试岗还是安全服务岗,这些项目都是加分项。img

👇 点击下方链接,补齐实战短板,拿下心仪Offer:

**读者福利 |** *CSDN大礼包:《网络安全入门&进阶学习资源包》免费分享 * **(安全链接,放心点击)**img

文章来自网上,侵权请联系博主

更多推荐