
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
一句话总结:记忆投毒的本质是把提示注入的"即时攻击"升级成"跨会话驻留攻击",攻击发生在推理之后、存储之前的管道盲区,单点防御已被证明无效;工程正解是纵深——写入侧来源分级与 TTL、检索侧毒簇指纹检测、注入侧数据化降权、治理侧覆盖审计、运维侧隔离与体检,五道防线各砍一刀。触发器-载荷关联检测:MemPoison 暴露的攻击面(触发器与载荷的异常绑定)本身就是检测特征,值得在上面管线里加一个"新记
本文走完了一条从威胁模型到可复现流水线的完整路径,几个值得记住的结论:恶意包检测的本质是意图推理而非模式匹配,AST 切片给 LLM 提供高密度证据、启发式闸门砍掉 80%+ 成本、结构化输出+证据锚定+三道校验把「不可靠的模型」框成「可审计的判定」;同时别忘了大模型在这场攻防里的双面性——slopsquatting 证明它一手制造了新攻击面,而存在性+冷却期这道零成本闸门拦下它的效率比任何模型都
模型输出 = 不可信输入。渲染它时按不可信输入转义,执行它时按不可信输入白名单化,采纳它时按不可信输入复核。具体落地记住四件事:出口守卫规则先行、结构化裁决;渲染层白名单+净化+代理三件套;依赖与命令的信任锚收敛到锁文件与私有通道;守卫日志自己也要防外带。延伸方向有四个值得深挖:一是Agent 间传播场景——当输出被下一个 Agent 当作输入时,出口守卫同时就是入口消毒,"出口即入口"的统一建模
先回答一个设计问题:为什么以 patch diff 为分析入口,而不是让模型直接读漏洞公告或全仓库扫描?第一,diff 是信息密度最高的证据。一个安全补丁动辄只改几十行,但正是这几十行把"漏洞在哪里、什么条件触发、修复者认为的威胁模型"压缩在了一起。新增的边界检查暴露了越界的字段,新增的类型校验暴露了类型混淆的可能,被删除的死代码暴露了曾经存在的攻击面。对模型来说,分析一个 50 行的 diff,
打开十几个博客和 PDF,人肉复制 IP、域名、哈希,手动判断置信度,再录入平台。一篇中等复杂度的 APT 报告,人工抽取全部 IOC 与 ATT&CK 技术映射需要 30-60 分钟,而情报的时效窗口常常只有几小时。传统自动化方案早就存在,为什么不够用?实体抽取(IOC 提取):正则能做 IP、域名、哈希这类格式强约束的实体,但正则抓不住"该域名被用于 C2 但仅在水坑攻击期间活跃"这种上下文语
Ollama 类推理服务的未授权访问是设计性风险,打不了补丁,只能改边界——监听收口是成本最低的第一动作;的RUN指令等于把 RCE 做成了官方特性,2026 年的定制挖矿木马已在真实利用,检测必须下沉到调用语义层;反向代理的关键不是"加认证",而是"路由白名单"——纵深防御的检验标准是任何单层失效时下一层是否兜得住;低代码 Agent 平台要按"含 RCE 特性的服务"定级管理,Langflow
本文沿"反序列化 → 权重 → 行为 → 治理"四层给出了一条完整可复现的攻防路径,所有实验在本地 CPU 环境(Python 3.11.9 / torch 2.11.0 / safetensors 0.8.0)真实运行:pickle__reduce__载荷在路径下确认可触发、新默认值下确认可拦截;逐张量相对范数 diff 对叠加扰动给出 7.97% 的明确 DRIFT;5% 数据投毒在主任务零损
面向AI工程师与模型供应链安全评审:LLM微调后门的注入原理、ASR量化评估、STRIP熵检测/激活聚类/谱签名三种检测器实现与数据侧-模型侧-部署侧纵深防御方案。
情报提取(从报告文本中抽出 IOC、TTP、威胁 actor 名)、标准化(把散乱的字符串变成 STIX 对象、把攻击描述映射到 ATT&CK 技术编号)、富化与去重(判断这个域名是否早就在库里)、分发(推给 SIEM / MISP / TAXII 通道)。
回到开头的问题:字典型 DGA 骗过熵值统计之后,大模型补位的方式不是"取代统计层",而是把防线从"字符分布"推进到"构词语义 + 可解释证据链"。三层架构的本质是一份成本与确定性的预算表——亚毫秒的统计层守住吞吐,秒级的语义层守住召回,行为信号(NXDOMAIN/短 TTL)守住对抗底线,任何单层失效都有人接住。家族隔离评测决定你敢不敢相信自己的召回率,缓存 + 输入清洗 + 结构化输出决定 L







