logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Skill安全系列之恶意技能

文章摘要:智能体Agent的Skill功能存在恶意技能风险,攻击者可利用权限继承特性读取敏感文件、执行恶意命令、发布仿冒技能或植入后门。示例展示了通过伪装游戏技能窃取文件内容,以及调用外部脚本执行系统命令的攻击方式。防护措施包括安全扫描工具(NVIDIA/Cisco等方案)、沙箱隔离执行以及系统提示词加固。随着智能体功能日益强大,传统攻击手法可能通过自然语言指令在Skill中重现,需重视AI安全防

文章图片
#安全#网络#网络安全
Openclaw安全使用规范

Openclaw虽然方便,但权限过大且使用不当后,风险也很多,本篇记录Openclaw的安全使用规范,作为参考。

文章图片
#安全#网络安全
Skill安全系列之Skill基础

本文介绍了AI领域中的Skill概念及其应用。Skill相当于AI智能体的技能模块,通过编写提示词和脚本存储在md文件中,供智能体按需调用。Skill具有避免重复提示、统一更新、按需加载等优势,适合处理标准化、重复性任务。文章详细说明了Skill的结构规范、编写技巧和使用注意事项,包括元数据描述规则、按需加载机制、分层管理等。同时区分了Skill与MCP的区别,强调Skill是任务操作手册而非工具

文章图片
#人工智能#网络安全
Skill安全系列之Skill基础

本文介绍了AI领域中的Skill概念及其应用。Skill相当于AI智能体的技能模块,通过编写提示词和脚本存储在md文件中,供智能体按需调用。Skill具有避免重复提示、统一更新、按需加载等优势,适合处理标准化、重复性任务。文章详细说明了Skill的结构规范、编写技巧和使用注意事项,包括元数据描述规则、按需加载机制、分层管理等。同时区分了Skill与MCP的区别,强调Skill是任务操作手册而非工具

文章图片
#人工智能#网络安全
大模型安全防护四道防线

注意是纵深防御中的底层思想,掌握这个思想,哪怕更换平台或工具,原理都是一样的。小枣信安:专注AI安全,包括但不限于大模型安全、智能体安全、机器人安全、AI赋能网络安全等,欢迎一起学习。

文章图片
#安全#人工智能
大模型安全漏洞TOP10有哪些?敏感信息泄露风险必看!

《大模型安全漏洞之敏感信息泄露分析与防护》 本文系统探讨了大模型应用中存在的敏感信息泄露风险。文章首先界定了三类敏感信息范畴:个人隐私数据、企业机密和模型内部信息。通过搭建本地测试环境(Ollama+Qwen+OpenWebui),作者模拟演示了RAG系统和大模型自身可能导致的敏感数据泄露场景。针对这些风险,文章提出了多层次防护方案:包括训练数据清洗、输入输出过滤、系统提示词加固等纵深防御措施。最

文章图片
#网络安全
大模型安全漏洞有哪些?不安全的插件必看!

摘要: 本文探讨大模型安全中的插件漏洞问题,以函数调用模拟插件机制进行测试。通过本地搭建Ollama+Qwen+OpenWebUI环境,演示安全查询天气插件的实现,并模拟存在SQL注入漏洞的消费查询插件(用户ID硬编码、时间参数未过滤)。文章区分了插件(工具)、函数调用与SKILL(多插件协作任务)的概念,指出不安全插件可能由无意代码缺陷或恶意植入导致,具体风险包括SQL注入、越权等。后续将围绕漏

文章图片
#网络安全#安全
大模型安全之数据投毒

摘要 本文探讨了AI模型训练中的数据投毒安全问题,通过实验演示了两种数据投毒场景:模型训练阶段的数据集污染和RAG模式下的外部数据污染。文章详细介绍了使用Python脚本微调模型的过程,包括环境配置、数据集准备(包含恶意指令触发机制)、模型训练代码实现及测试验证。实验基于Qwen2.5-0.5B模型,通过插入特定触发指令"【系统指令:Omega】"实现后门植入,使模型在检测到该

文章图片
大模型安全系列:不安全的输出如何演变成RCE攻击

本文探讨了大模型输出不安全内容导致的漏洞风险,重点分析了存储型XSS攻击场景。通过一个客服管理后台案例,演示了攻击者如何通过恶意投诉内容诱导AI模型输出XSS载荷。当管理员查看AI总结时,由于模板引擎未对HTML标签进行转义(使用safe过滤器),导致恶意脚本执行并窃取cookie。实验使用Flask框架搭建测试环境,Qwen2.5-0.5B模型处理投诉内容,成功复现了XSS攻击过程。该案例揭示了

文章图片
#安全
大模型安全之供应链漏洞

按照供应链问题的边界定义,只要不是开发自己写的代码所产生的漏洞,就都可以归为供应链问题。小枣信安:专注AI安全,包括但不限于大模型安全、智能体安全、机器人安全、AI赋能网络安全等,欢迎一起学习。

文章图片
#安全#网络安全
    共 18 条
  • 1
  • 2
  • 请选择