这一项是关于缺乏审计的，相当于MCP的运行没有日志审计，事后无法定位和溯源，所以本篇我们演示一下如何给MCP去记录日志情况。MCP记录日志还有很多方式，也有很多平台，不止局限于langfuse，可根据自己情况进行选择。小枣信安：专注AI安全，包括但不限于大模型安全、智能体安全、机器人安全、AI赋能网络安全等，欢迎一起学习。

《大模型安全漏洞之敏感信息泄露分析与防护》 本文系统探讨了大模型应用中存在的敏感信息泄露风险。文章首先界定了三类敏感信息范畴：个人隐私数据、企业机密和模型内部信息。通过搭建本地测试环境(Ollama+Qwen+OpenWebui)，作者模拟演示了RAG系统和大模型自身可能导致的敏感数据泄露场景。针对这些风险，文章提出了多层次防护方案：包括训练数据清洗、输入输出过滤、系统提示词加固等纵深防御措施。最

摘要： 本文探讨大模型安全中的插件漏洞问题，以函数调用模拟插件机制进行测试。通过本地搭建Ollama+Qwen+OpenWebUI环境，演示安全查询天气插件的实现，并模拟存在SQL注入漏洞的消费查询插件（用户ID硬编码、时间参数未过滤）。文章区分了插件（工具）、函数调用与SKILL（多插件协作任务）的概念，指出不安全插件可能由无意代码缺陷或恶意植入导致，具体风险包括SQL注入、越权等。后续将围绕漏

本文探讨了AI安全中的DDoS攻击问题，从网络层、应用层和模型层三个维度进行分析。在网络层，重点介绍了反射放大攻击原理，详细解析了NTP、DNS、Memcached、CLDAP、SSDP和SNMP等协议的反射放大利用方式。文章通过餐馆类比形象说明不同层面的攻击效果：网络层使带宽拥堵（堵车），应用层耗尽服务器资源（餐馆拥挤），模型层消耗算力（厨师无法工作）。针对每种协议，提供了具体的检测方法和利用思

AI安全风险：过度代理漏洞分析 摘要：本文揭示了AI应用中常见的"过度代理"安全漏洞，即当AI系统被赋予超出实际需求的权限时可能导致的风险。文章通过数据库操作示例展示了两种典型场景：1)功能过多导致的非必要权限；2)权限过大引发的越权访问。测试案例显示，当AI系统仅需读取数据却拥有增删改权限时，攻击者可利用Prompt Injection等技术越权操作他人数据。该漏洞源于权限设

摘要 本文探讨了AI模型训练中的数据投毒安全问题，通过实验演示了两种数据投毒场景：模型训练阶段的数据集污染和RAG模式下的外部数据污染。文章详细介绍了使用Python脚本微调模型的过程，包括环境配置、数据集准备（包含恶意指令触发机制）、模型训练代码实现及测试验证。实验基于Qwen2.5-0.5B模型，通过插入特定触发指令"【系统指令：Omega】"实现后门植入，使模型在检测到该

本文探讨了大模型输出不安全内容导致的漏洞风险，重点分析了存储型XSS攻击场景。通过一个客服管理后台案例，演示了攻击者如何通过恶意投诉内容诱导AI模型输出XSS载荷。当管理员查看AI总结时，由于模板引擎未对HTML标签进行转义（使用safe过滤器），导致恶意脚本执行并窃取cookie。实验使用Flask框架搭建测试环境，Qwen2.5-0.5B模型处理投诉内容，成功复现了XSS攻击过程。该案例揭示了

《大模型EDOS攻击：无限制消费的风险与防护》 本文探讨了大模型面临的经济可持续性拒绝(EDOS)攻击，即通过恶意消耗Token导致高额费用的安全威胁。文章分析了三种典型攻击方式：1)无限调用付费API造成经济损失；2)通过超长输入内容消耗Token；3)诱导模型进行复杂计算产生大量输出。针对这些威胁，作者提出了四项防护措施：限制上下文Token数、控制上传文件大小、限制智能体尝试次数以及设置账单

摘要：大模型存在生成错误信息的问题，包括事实错误、虚假内容和不安全代码。测试显示模型可能提供不存在的信息（如虚构的XSS修复方法）或推荐无效库名，存在被恶意利用风险。生成的代码常含安全隐患，如硬编码凭证、未授权访问和明文存储密码。防护建议包括使用RAG技术确保数据源可靠、采用思维链模型降低错误率、增加用户警示提示，以及开发者审核AI代码并加强安全提示。用户需培养批判性思维，审慎对待AI输出。（14

按照供应链问题的边界定义，只要不是开发自己写的代码所产生的漏洞，就都可以归为供应链问题。小枣信安：专注AI安全，包括但不限于大模型安全、智能体安全、机器人安全、AI赋能网络安全等，欢迎一起学习。