
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
本文介绍了MCP架构中因认证信息管理不当导致泄露的几种常见场景,包括客户端/服务端配置文件明文存储、模型上下文泄露和日志记录暴露。通过FastMCP开发实例演示了模型调用工具时如何通过提示词注入获取敏感信息,以及日志文件记录导致的密钥泄露风险。最后建议将密钥存储在系统环境变量中,避免硬编码和日志记录敏感信息。文章揭示了MCP架构在认证信息管理方面的安全隐患,为AI系统安全开发提供了警示。

本篇为MCP安全系列的第一篇,关于MCP的基础原理、用法、使用等内容。

SkillSpector是英伟达开源的AI技能安全扫描工具,支持多种输入形式(Git仓库、URL、文件等),能够识别68种漏洞模式,包括提示注入、数据泄露等风险。工具提供组件CVE扫描、语义分析(需接入大模型)、多种报告输出格式,并支持基线和误报抑制机制。安装可通过uv工具快速部署,支持Windows环境。使用时可配置大模型进行语义检测,支持单技能或批量扫描,还能作为MCP服务集成到开发流程中。工

SkillSpector是英伟达开源的AI技能安全扫描工具,支持多种输入形式(Git仓库、URL、文件等),能够识别68种漏洞模式,包括提示注入、数据泄露等风险。工具提供组件CVE扫描、语义分析(需接入大模型)、多种报告输出格式,并支持基线和误报抑制机制。安装可通过uv工具快速部署,支持Windows环境。使用时可配置大模型进行语义检测,支持单技能或批量扫描,还能作为MCP服务集成到开发流程中。工

《大模型安全漏洞之敏感信息泄露分析与防护》 本文系统探讨了大模型应用中存在的敏感信息泄露风险。文章首先界定了三类敏感信息范畴:个人隐私数据、企业机密和模型内部信息。通过搭建本地测试环境(Ollama+Qwen+OpenWebui),作者模拟演示了RAG系统和大模型自身可能导致的敏感数据泄露场景。针对这些风险,文章提出了多层次防护方案:包括训练数据清洗、输入输出过滤、系统提示词加固等纵深防御措施。最

本文探讨了AI安全中的DDoS攻击问题,从网络层、应用层和模型层三个维度进行分析。在网络层,重点介绍了反射放大攻击原理,详细解析了NTP、DNS、Memcached、CLDAP、SSDP和SNMP等协议的反射放大利用方式。文章通过餐馆类比形象说明不同层面的攻击效果:网络层使带宽拥堵(堵车),应用层耗尽服务器资源(餐馆拥挤),模型层消耗算力(厨师无法工作)。针对每种协议,提供了具体的检测方法和利用思

AI安全风险:过度代理漏洞分析 摘要:本文揭示了AI应用中常见的"过度代理"安全漏洞,即当AI系统被赋予超出实际需求的权限时可能导致的风险。文章通过数据库操作示例展示了两种典型场景:1)功能过多导致的非必要权限;2)权限过大引发的越权访问。测试案例显示,当AI系统仅需读取数据却拥有增删改权限时,攻击者可利用Prompt Injection等技术越权操作他人数据。该漏洞源于权限设

《大模型EDOS攻击:无限制消费的风险与防护》 本文探讨了大模型面临的经济可持续性拒绝(EDOS)攻击,即通过恶意消耗Token导致高额费用的安全威胁。文章分析了三种典型攻击方式:1)无限调用付费API造成经济损失;2)通过超长输入内容消耗Token;3)诱导模型进行复杂计算产生大量输出。针对这些威胁,作者提出了四项防护措施:限制上下文Token数、控制上传文件大小、限制智能体尝试次数以及设置账单

摘要:大模型存在生成错误信息的问题,包括事实错误、虚假内容和不安全代码。测试显示模型可能提供不存在的信息(如虚构的XSS修复方法)或推荐无效库名,存在被恶意利用风险。生成的代码常含安全隐患,如硬编码凭证、未授权访问和明文存储密码。防护建议包括使用RAG技术确保数据源可靠、采用思维链模型降低错误率、增加用户警示提示,以及开发者审核AI代码并加强安全提示。用户需培养批判性思维,审慎对待AI输出。(14

按照供应链问题的边界定义,只要不是开发自己写的代码所产生的漏洞,就都可以归为供应链问题。小枣信安:专注AI安全,包括但不限于大模型安全、智能体安全、机器人安全、AI赋能网络安全等,欢迎一起学习。








