logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

ChatGPT自我注入攻击:7种新型手法深度解析与未来防御全景

ChatGPT自我注入攻击的本质是利用大模型上下文注意力机制的原生缺陷,通过间接媒介劫持模型指令执行逻辑,7种新型手法已突破现有安全防护体系,实现静默式隐私窃取。该类攻击已被OWASP列为2025年LLM十大风险之首,GPT-4至GPT-5全版本受影响,且正朝着自适应、跨模态、延迟触发的方向演进,需构建“技术防御+规则约束+合规治理”的三维防护体系应对。

A2AS安全框架:首个针对AI Agent全生命周期设计的系统性安全方案

摘要: 生成式AI与多智能体协同技术的快速发展使得AI Agent(智能体)广泛应用于企业办公、供应链调度、个人助手及智能制造等领域,其自主感知-决策-执行能力正在重塑生产和生活方式。然而,AI Agent的自主性也带来了新的安全挑战,如越权操作、决策失控、跨域协同风险等,传统安全框架难以应对这些动态化、链条化的风险。为此,A2AS(AI智能体自主安全框架)应运而生,它构建了“身份可信-权限可控-

#人工智能#安全#网络安全
鸿蒙6.0实战破局:金融大额转账“数字安全盾”从0到1搭建全指南

鸿蒙6.0助力金融安全新突破 金融科技面临“安全”与“便捷”的平衡难题:传统U盾安全但繁琐,纯软件验证便捷但风险高。鸿蒙6.0通过HMAF智能体框架和设备安全服务SDK,以“硬件级隔离+分布式协同”技术提供创新解决方案。 某金融机构基于鸿蒙6.0开发“数字安全盾”,实现三大核心能力: 可信交易校验:TEE环境与可信UI结合,防止信息篡改,拦截12类攻击; 端云协同风控:端侧实时检测设备风险,离线场

#harmonyos#金融#安全 +1
本地搭建简易AI问答系统(Java为主+Python辅助)

本文介绍了一个本地运行的简易AI问答系统搭建方法,采用Java+Python混合技术栈。系统分为三层架构:Java控制台前端、Java核心逻辑层和Python AI模型层。技术选型包括JDK 11+、Python 3.9+、Transformers库及轻量化模型ChatGLM-6B-int4。详细说明了环境配置步骤、Python端模型加载与问答处理实现(ai_answer.py),以及Java端通

#人工智能#java#python +1
Agent AI智能体:从技术重构到产业颠覆,开启人机协作新纪元

摘要: Agent AI智能体标志着AI从被动工具向主动伙伴的质变,具备自主规划、环境交互、动态记忆等核心能力。其架构包含感知层、决策层、执行层和记忆层四大模块,通过ReAct范式实现闭环运行。与传统AI和大模型相比,智能体能自主处理复杂跨域任务,重构工作流与协作模式。根据智能程度可分为反射型、目标驱动型等类别,应用场景覆盖电商、医疗、工业等领域。预计未来5-10年,智能体将向混合智能架构演进,形

#人工智能#重构
深度分析EchoGram漏洞:大语言模型护栏机制的系统性崩塌与防御革命

EchoGram是一种新型AI安全绕过技术,通过"令牌翻转"机制,利用极简文本序列(如"=coffee")扰动大语言模型(LLM)防护系统的决策边界。该技术针对护栏系统的训练数据缺陷,成功绕过了GPT-4o、Claude 4等主流模型的安全机制,攻击成功率高达97.9%。测试显示,83%的有效翻转令牌不超过3个字符,且与恶意提示无语义关联。攻击可导致数据泄露

#语言模型#人工智能#机器学习 +1
大模型改写Web漏洞PoC生成规则:从8%到72%的突破,攻防平衡迎来新挑战

大模型在Web漏洞PoC生成领域的突破,不是“替代人类”,而是“重构人机分工”——LLM负责“批量生成基础PoC、处理简单漏洞”,安全工程师聚焦“复杂漏洞优化、逻辑漏洞挖掘”,两者结合实现“效率与精准度”的双重提升。但我们也需清醒认识到:技术进步永远是把双刃剑。在享受LLM带来的效率红利时,必须通过“分级信息披露”“LLM生成限制”“自动化防御升级”等手段,平衡攻防双方的能力差距。

#前端#网络#安全 +2
首个零点击攻击“Shadow Escape”:利用MCP协议劫持AI代理,静默窃取万亿条敏感数据

2025年10月,网络安全公司Operant披露代号"Shadow Escape"的新型零点击攻击,利用AI模型上下文协议(MCP)漏洞,无需用户交互即可通过ChatGPT等主流AI代理窃取敏感数据。该攻击分三阶段:通过有毒文档潜入、滥用AI信任凭证提取数据、伪装常规操作外传信息,且传统安全工具无法检测。医疗、金融、零售行业面临严重威胁,万亿条数据可能已暴露。专家呼吁企业紧急加

#人工智能#网络安全#MCP
基于Stable Diffusion的多模态AI绘画系统:个性化生成、风格迁移与商业变现路径研究

本文提出SD-Art Framework,一种基于Stable Diffusion的多模态AI绘画系统。通过"文本+草图+风格图"三模态引导机制和风格-内容解耦模块(SC-Module),实现高精度个性化图像生成。系统支持5分钟内完成LoRA微调,并开发了集成支付、版权保护的商业平台ArtCommerce。实验表明,在头像定制、建筑效果图等任务中,用户满意度达94.7%,结构一

文章图片
#AI作画#人工智能
从EKUwu到域控沦陷:深度剖析ADCS证书攻击新漏洞ESC15(CVE-2024-49019)

ADCS证书服务再曝高危漏洞ESC15(CVE-2024-49019),突破传统模板配置错误依赖,利用V1证书模板的历史遗留缺陷实现权限提升。该漏洞通过注入特权应用程序策略、篡改主体信息,使普通域用户可获取域管理员权限。攻击分为模板侦察、策略注入、证书中继和域控接管四个阶段,具有隐蔽性强、审计难度高的特点。防御建议包括:立即安装微软补丁、禁用V1模板、强化证书审批流程及构建多层监测体系。该漏洞凸显

#elasticsearch#大数据#搜索引擎
    共 382 条
  • 1
  • 2
  • 3
  • 39
  • 请选择