logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型微调后门实战:数据投毒注入、检测与防御的完整链路

面向AI工程师与模型供应链安全评审:LLM微调后门的注入原理、ASR量化评估、STRIP熵检测/激活聚类/谱签名三种检测器实现与数据侧-模型侧-部署侧纵深防御方案。

#网络安全
大模型威胁情报自动化实战:把非结构化安全报告变成可消费的 STIX 情报

情报提取(从报告文本中抽出 IOC、TTP、威胁 actor 名)、标准化(把散乱的字符串变成 STIX 对象、把攻击描述映射到 ATT&CK 技术编号)、富化与去重(判断这个域名是否早就在库里)、分发(推给 SIEM / MISP / TAXII 通道)。

#网络安全
用大模型检测 DGA 恶意域名实战:当字典型 DGA 骗过熵值统计,LLM 语义研判如何补上这块短板

回到开头的问题:字典型 DGA 骗过熵值统计之后,大模型补位的方式不是"取代统计层",而是把防线从"字符分布"推进到"构词语义 + 可解释证据链"。三层架构的本质是一份成本与确定性的预算表——亚毫秒的统计层守住吞吐,秒级的语义层守住召回,行为信号(NXDOMAIN/短 TTL)守住对抗底线,任何单层失效都有人接住。家族隔离评测决定你敢不敢相信自己的召回率,缓存 + 输入清洗 + 结构化输出决定 L

#网络安全
MCP 协议安全实战:从工具投毒到纵深防御,给你的 Agent 工具链做一次安全体检

这篇文章从 MCP 信任模型的结构性缺陷(信任倒挂 + 混淆代理)出发,拆解了四类攻击的成立条件与防御卡点——工具投毒卡在声明面审计、Rug Pull 卡在基线漂移检测、跨服务器攻击卡在能力拆分与数据流向隔离、传输层命令注入卡在协议白名单——并给出了一条可复现的体检流水线:mcp-audit 静态审计(致命三要素组合)→ 自研隐形字符/指令模式扫描 → mcp-sentinel 基线锁定与 CI

#网络安全
MCP 工具投毒攻防实战:从 tools/list 元数据注入到零信任防御网关(2026 版)

MCP 工具投毒的本质,是把供应链攻击的载体从代码搬进了自然语言:协议报文全合规、杀软无可拦截、日志单点无异常。接入前扫描述、连接走白名单、调用做 DLP、事后查链路。延伸方向推荐三个:一是描述签名与变更审计——对第三方 Server 的 description 做内容哈希,Rug Pull 类"静默换描述"立刻可见,这也是对抗 CVE-2025-54136 这类授权模型缺陷的通用思路;二是容器化

#网络安全
用大模型检测钓鱼邮件实战:把 LLM 塞进邮件网关之前,先解决它的三个软肋

传统分类器输在同分布评测里、赢在成本上,LLM 赢在跨攻击泛化与可解释证据上、输在三个软肋上——所以正确的架构不是"用 LLM 替代过滤器",而是"启发式挡两端 + LLM 仲裁灰区 + 结构化输出进消费白名单"。三个软肋的工程解各自独立成立:成本用分层触发解(只让 10%-30% 的邮件进 LLM);隐私用本地部署或脱敏骨架解(默认送云不是选项);注入用"归一化 + 独立嗅探器 + 消费白名单

#网络安全
MCP 协议安全实战:拆解工具投毒链路,构建 Agent 的纵深防御(2026 版)

MCP 的安全缺陷不是实现漏洞,而是"用自然语言当 ABI"的必然代价——所以防御思路也要从"堵漏洞"切换为"纵深 + 纵深 + 纵深":静态扫描(元数据)→ spotlighting(数据定界)→ 出口白名单与容器隔离(网络与进程)→ 人审与双模型(决策点)。四层全部落地的系统,即使模型被骗,数据也出不去、操作也执行不了,这才是工程上"可接受风险"的正确姿势。延伸方向三个:一是把 4.1 的扫描

#网络安全
大模型的特洛伊木马:微调后门与数据投毒的原理、复现与检测实战

后门不是模型的漏洞,是模型的"本事"——梯度下降忠实地学会了攻击者混进数据里的条件反射;而清除它比植入它难一个数量级,所以防御的重心永远在数据进管线之前、权重进集群之前。本文的完整路径:概念分层(越狱/注入/后门三分)→ 原理(微调低样本代价、LoRA 攻击面、Sleeper Agents 顽固性)→ 降强度复现(1% 投毒 + LoRA + ASR/C2 双指标验证)→ 检测(数据侧统计交叉比对

#网络安全
大模型辅助二进制逆向实战:用 Ghidra 无头流水线 + LLM 语义研判撬开无符号二进制

回到导语的问题:面对无符号二进制,LLM 的正确用法不是在聊天框里贴汇编问"这是什么",也不是让 Agent 在 GUI 里自由发挥,而是把它作为流水线中"语义恢复 + 漏洞假设"环节嵌进确定性的框架——Ghidra 负责确定性的反编译与调用图,预过滤负责成本收敛,LLM 负责读伪 C 并给出带证据的假设,验证器负责把假设压回可核实的轨道,ai_前缀负责让机器结论永远不冒充人工结论。

#网络安全
大模型微调后门攻防实战:从触发器注入到 STRIP 与激活聚类检测

本文走完了一条完整的攻防闭环:5% 样本注入触发器 → 微调出 CACC 无损、ASR 98% 的带后门模型 → 验收侧用双指标把盲区变成显式指标 → 红队扫描定位可疑触发器 → 激活聚类从表征层定性 → 供应链门禁(safetensors + 来源固定 + 强制审计)把防线前移。后门的隐蔽性来自"验收指标与攻击目标正交",防御的本质就是把触发面补进验收面。生成式后门。

#网络安全
    共 194 条
  • 1
  • 2
  • 3
  • 20
  • 请选择