
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
AI红队评估是系统化、迭代式的对抗性测试,旨在发现医疗聊天机器人等加固AI系统的安全缺口。通过提示提取、越狱、范围逃逸等多向量攻击,红队揭示了如指令泄露、角色扮演绕过、单表面评估盲区及通用攻击迁移等深层漏洞。真实案例(EchoLeak、GoofyGame、Kill-ChainCanaries、大规模竞赛)表明:红队需从系统设计假设出发,运用游戏理论与多表面覆盖,记录可复现发现,指导修复。核心价值在

智能体AI的自主性带来巨大效能,也引发全新安全威胁。与聊天机器人不同,智能体可跨系统行动、持久记忆、委托任务,一次提示注入可能引发多系统连锁攻击。六大攻击类型——工具滥用、委托劫持、记忆投毒、目标劫持、资源滥用、数据外泄——暴露其高风险本质。必须摒弃聊天机器人安全思维,采用纵深防御:最小权限、参数验证、授权链控制、会话隔离、目标漂移检测、预算限制与输出过滤。真实案例印证攻击自动化与协同化已成现实。

传统审计无法有效应对AI特有风险,因聚焦访问控制、加密等传统控制,忽视提示注入、数据合规等生成式AI核心威胁。中国法规体系下,《暂行办法》《标识办法》《算法推荐管理规定》等构建了AI合规基线,要求覆盖数据来源、内容标识、伦理审查、熔断机制等新领域。AI审计须扩展至四类新证据:数据标注验证、模型行为测试、红队攻防与标识合规,并采用五阶段方法论,建立证据矩阵与持续审计机制。安全团队应避免以等保替代AI

全球AI监管未退潮,而是进入分层深化阶段。尽管部分国家推迟专项立法,但基于风险的监管框架(如EU AI Act)、通用法律约束及跨国标准(如NIST AIRMF、ISO/IEC 42001)正加速落地。中国《生成式AI服务管理暂行办法》等法规强化内容安全与算法治理。合规已非等待立法,而是需构建跨框架的证据栈——从质量管理体系、日志保留到技术文档、透明度披露,均需可证明、可审计。安全与开发人员须以“

今天编译一个程序需要使用虚函数的类,想探索一下虚函数表的结构,结果总是在链接的时候报错如下:undefined reference to `vtable for __cxxabiv1::__class_type_info'编译命令是:gcc virtualtable.cpp -o virtualtable经过探索,原来是在链接的时候,需要使用C++的库,而默认是不使用的,所以必须添...
传统威胁建模框架(如STRIDE、LINDDUN)因假设系统行为确定性,难以应对生成式AI的“概率性”特性。面对提示注入、数据泄露、工具滥用等新威胁,需扩展原有框架,融入提示层、模型层与工具层控制。本文提出六类AI特有威胁,并以客服机器人为例,展示如何构建可演进的威胁模型。通过将威胁建模嵌入DevSecOps流水线,实现安全左移、自动化验证与持续监控,确保安全能力随系统动态更新。核心理念:威胁建模

传统威胁建模框架(如STRIDE、LINDDUN)因假设系统行为确定性,难以应对生成式AI的“概率性”特性。面对提示注入、数据泄露、工具滥用等新威胁,需扩展原有框架,融入提示层、模型层与工具层控制。本文提出六类AI特有威胁,并以客服机器人为例,展示如何构建可演进的威胁模型。通过将威胁建模嵌入DevSecOps流水线,实现安全左移、自动化验证与持续监控,确保安全能力随系统动态更新。核心理念:威胁建模

20天内下架的韩国聊天机器人“李LUDA”暴露AI治理缺失,而欧盟《人工智能法案》以3500万欧元罚款推动“事前问责”。本文构建AI治理三层架构:原则为道德罗盘,政策为操作规则,问责为责任闭环。结合透明度(模型卡、数据表)、可审计性与全球监管框架(欧盟、NIST、ISO),提出中国“发展与安全并重”的立法路径。生成式AI上线需完成算法备案、安全评估与内容标注。最终强调:信任是设计出来的,须通过结构

20天内下架的韩国聊天机器人“李LUDA”暴露AI治理缺失,而欧盟《人工智能法案》以3500万欧元罚款推动“事前问责”。本文构建AI治理三层架构:原则为道德罗盘,政策为操作规则,问责为责任闭环。结合透明度(模型卡、数据表)、可审计性与全球监管框架(欧盟、NIST、ISO),提出中国“发展与安全并重”的立法路径。生成式AI上线需完成算法备案、安全评估与内容标注。最终强调:信任是设计出来的,须通过结构

AI安全的核心不在模型本身,而在其复杂系统架构。以RAG为例,检索器、数据连接器、工具层、编排与可观测组件构成多重信任边界,每一环都可能成为攻击入口。真实事件如ChatGPT-Gmail泄露、Composio沙箱逃逸、Notion恶意PDF攻击,均揭示攻击者通过基础设施漏洞实现跨账户数据窃取。真正的防御需贯穿全链路:最小权限、输入输出过滤、可信验证、可观测性与策略落地。安全不是补丁,而是从设计之初








