本文围绕 AI 大模型全生命周期的隐私保护展开，按预训练、微调、推理三个阶段梳理关键技术。预训练阶段以数据清理（匿名化、假名化、数据最小化、数据聚合）、联邦学习与差分隐私为核心，并给出基于 Opacus 的 DP-SGD 最小实现；微调阶段重点讨论联邦学习的任务化定位与知识遗忘（梯度更新、模型剪枝、重训练/微调重置）；推理阶段则覆盖同态加密、安全多方计算、函数秘密共享（FSS）、推理期差分隐私以及

AI大模型存在被动与主动双重隐私风险。被动泄露源于用户无意暴露敏感信息、上下文积累及偏好推断；主动攻击则包括后门植入、成员推理、模型反转、属性推断与模型窃取，攻击者可利用输出反推训练数据或隐私特征。二者均威胁个人隐私与数据安全，亟需强化防护机制。

本文系统梳理了提示词注入攻击的概念、方式与原理、检测手段与防御策略。首先说明提示词注入攻击利用大模型对输入提示的高度信任与上下文敏感依赖，以低成本、高隐蔽的方式诱导模型输出违规内容；随后归纳规则覆盖型、上下文伪装型、信息泄露型、编程任务滥用型四类典型注入方式；接着从输入检测、上下文一致性检查、输出行为预测、行为分析四个层面介绍检测思路，并给出输入过滤、生成逻辑优化、输出控制、系统架构设计、持续监控

本文系统阐述了数据投毒的检测与防御策略，涵盖数据筛查、标签验证、信誉评分、白盒/黑盒测试等检测方法，以及数据清洗、最低权限原则、模型检查清洗、多样化数据源、溯源审计与实时监控等防御措施。强调需结合技术手段与管理机制，构建覆盖AI大模型全生命周期的防护体系，尤其在内部投毒场景下需辅以行为审计、多方验证与模型兜底，确保安全与性能平衡。

本文围绕数据投毒攻击展开，先梳理注入攻击、篡改攻击、后门投毒攻击和供应链攻击四种投毒方式，结合金融量化、AI 客服、医疗 AI 诊断、AI 绘画工具等案例说明各自的手法与被利用的薄弱点；随后归纳标签篡改、植入恶意样本、偏见引入、上下文操控和公共数据污染五类常见投毒手段；最后针对数据增强的适用边界、普通用户识别 AI 异常输出的行动准则，以及企业快速迭代中兼顾数据安全等问题给出落地建议。

AI大模型面临输入扰动、提示越狱、数据投毒、模型窃取、后门攻击等五类常见攻击，贯穿生命周期各阶段。攻击链覆盖输入、数据、供给、输出、权限与资源端，需通过输入过滤、数据清洗、权限最小化、API限流及安全加固等多层防御。应对十大风险应强化源头核验、组件准入、输出审查与持续监控。技术上推行对抗训练、联邦学习、差分隐私；制度上明确责任主体、规范权限边界，构建“技术+情报+治理”协同防护体系，平衡个性化推送

本文围绕 AI 应用安全展开，先对比大模型与小模型在能力范围、资源开销、可解释性和安全关注点上的差异，再梳理 AI 应用从应用到计算的分层架构及各层典型风险，随后归纳技术根因类与延伸攻击面类常见风险及对应防护措施，最后结合聊天机器人、AIGC、智能驾驶、搜广推和科学研究等场景，说明安全风险的具体落点与防御重点。

本文围绕 AI 应用安全展开，先对比大模型与小模型在能力范围、资源开销、可解释性和安全关注点上的差异，再梳理 AI 应用从应用到计算的分层架构及各层典型风险，随后归纳技术根因类与延伸攻击面类常见风险及对应防护措施，最后结合聊天机器人、AIGC、智能驾驶、搜广推和科学研究等场景，说明安全风险的具体落点与防御重点。

对抗样本是通过微小扰动诱导AI模型误判的恶意输入，源于现实问题边界模糊与模型分类要求明确之间的矛盾。攻击分为白盒（知模型结构）与黑盒（仅接口访问），常用方法包括梯度攻击、词替换插入、优化算法及语法语义保留修改。生成面临语言离散性、语义合规与上下文复杂性挑战。防御则依赖对抗训练、输入正则化、模型随机化、冗余集成与实时监控，结合多策略提升鲁棒性，增强对已知及未知攻击的抵御能力。

模型鲁棒性不足易导致输入微小扰动即引发错误输出，尤其在对抗攻击、数据分布偏移时性能骤降。风险源于对抗样本、数据偏差与环境变化，需通过对抗训练、数据增强与动态校准加固。对抗训练用FGSM等生成扰动样本提升抗干扰能力；数据增强应保留真实判别特征，避免失真；动态校准需日志可追溯、参数限幅并人工兜底，防止引入新偏差。长效防御依赖多层冗余、持续红队测试与实时监控，确保系统在复杂场景下稳定可靠。