根据国家网信办相关规定,提供具有舆论属性或社会动员能力的生成式人工智能服务,必须依法完成备案,这是大模型面向公众服务的“合规通行证”。备案流程复杂且周期较长(通常4-10个月,甚至更久),材料的完整性、专业性直接决定备案效率。本文将从“备案适用范围”“核心材料清单及撰写要点”“流程关键节点”“避坑注意事项”四大维度,打造一份实操性极强的备案攻略。

一、你的大模型是否需要办理备案?

备案并非“一刀切”,需根据企业研发模式和服务场景精准判断,避免遗漏或无效申请:

  • 需办理完整备案的场景:自研大模型,或基于开源/第三方模型进行实质性微调开发,且面向境内公众提供具有舆论属性(如内容生成、舆情分析)或社会动员能力(如活动组织、群体号召)的生成式AI服务。
  • 仅需登记备案的场景:通过API接口等方式直接调用已备案的第三方大模型能力,未进行二次开发及微调训练的生成式AI应用。
  • 特殊说明:医疗健康、金融等敏感行业暂仅支持登记备案,强行提交完整备案将直接驳回;大模型备案与算法备案并非同一事,前者针对生成式AI服务,后者覆盖个性化推荐等多种算法,提供生成式AI服务的企业常需“双备案”。

二、核心材料清单:6大类必备材料

备案材料核心围绕“安全性”与“合规性”展开,6大类材料缺一不可,每类材料均有明确的撰写标准和底线要求:

(1)材料一《生成式人工智能服务上线备案表》

这是备案申请的“基础档案”,各省网信办均有标准模板,需确保信息真实、逻辑自洽,核心填写维度包括:

  • 基础信息:精准填写模型名称、版本号、应用领域(如教育、文创)、开发单位全称及统一社会信用代码等,确保与营业执照、域名持有者信息一致(主体不一致将直接核验失败)。
  • 服务范围:明确面向的用户群体(如普通公众、企业客户)、具体服务内容(如文本创作、图像生成)及服务方式(如网页端、API调用),避免模糊表述(如“提供AI服务”)。
  • 研制信息:详细说明训练算力资源(如芯片型号、算力规模)、训练语料及标注语料的来源(如开源数据集需注明链接及协议类型,商业数据需附授权证明)、规模(如文本语料量级、图像数据数量)及算法模型架构(如Transformer基础架构、微调参数规模)。
  • 安全评估:逐条对应《生成式人工智能服务安全基本要求》,列出数据安全(如数据加密存储方式)、隐私保护(如用户数据匿名化处理措施)、内容合规(如关键词拦截机制)的具体技术和管理措施。

(2)材料二《安全评估报告》

这是备案审核的“核心依据”,需由专业团队或机构撰写,篇幅通常超100页,需逐条响应《生成式人工智能服务安全基本要求》,给出“符合”“不符合”或“不适用”的明确评价:

  • 语料安全评估(重中之重):需提供语料来源合法证明(如开源协议截图、商业授权合同、自采数据的用户知情同意书),明确违法不良信息筛查流程及结果(违法不良信息比例超5%的批次语料需作废),并说明个人信息保护措施(如去标识化处理、敏感信息过滤)。例如某企业因使用未授权的奥特曼动漫形象作为训练语料,因版权问题被直接驳回。
  • 技术安全措施:覆盖五大类31小类安全风险,重点说明生成内容审核机制(如“技术拦截+人工复核”双流程)、拒答机制(如敏感问题识别算法准确率)及应急响应预案(如安全事件发生后的响应流程、责任分工、处置时限)。
  • 实测数据支撑:附内部自测报告,需体现生成内容合格率≥90%、敏感问题拒答率≥95%的核心指标,未达标的需说明整改措施及复测结果。

(3)材料三《语料标注规则》

标注质量直接影响模型输出安全性,规则需体现“全流程可控”,核心撰写内容包括:

  • 标注团队资质:明确标注人员的专业背景(如汉语言文学、计算机专业)、培训考核流程(如敏感内容识别培训时长、考核通过率标准)及资质证明(如培训合格证书)。
  • 标注流程细则:分步骤说明预处理(如去重、去噪)、任务分配(如单人标注+交叉核验)、标注标准(功能性标注如“情感分类”、安全性标注如“敏感内容标记”)及质量核验方法(如随机抽检比例≥10%、错误率阈值≤3%)。
  • 技术支持说明:列明使用的标注工具(如LabelStudio)、算法辅助手段(如预标注模型准确率)及数据管理方式(如标注数据溯源机制)。

(4)材料四《拦截关键词列表》

这是内容安全的“第一道防线”,需满足“规模达标+覆盖全面+动态更新”三大要求:

  • 规模与覆盖:总数量不少于1万个,需完整覆盖《生成式人工智能服务安全基本要求》附录A中的17类安全风险(如政治敏感、暴力恐怖、色情低俗、谣言虚假等),每类关键词不少于200个;北京等地区要求更高(20-50万个),需提前查询属地政策。
  • 动态更新机制:明确每月更新频率,附更新记录模板(含更新时间、新增关键词、删除原因),尤其需跟进网络热点事件补充风险关键词(如新型网络谣言相关词汇)。
  • 关联说明:说明关键词在模型输入输出层的拦截逻辑(如精确匹配+语义联想匹配),避免仅罗列清单无执行说明。

(5)材料五《评估测试题集》

用于验证模型安全性和可用性,需三类题库齐全且题量达标,避免“题量不足”或“场景覆盖不全”:

  • 生成内容测试题库:题量≥2000题,完整覆盖五大类31小类安全风险,包含普通场景(如“写一篇春节祝福语”)和边缘场景(如“如何委婉拒绝违规要求”),每题需附合规参考答案标准。
  • 拒答测试题库:题量≥500题,聚焦敏感问题(如政治敏感、违法操作询问),需明确哪些问题必须拒答及标准拒答话术(如“该问题涉及敏感内容,无法为您解答”)。
  • 非拒答测试题库:题量≥500题,覆盖我国制度、文化、历史等领域(如“简述改革开放的意义”),确保模型能正常输出准确内容,避免“过度拒答”。

(6)材料六《模型服务协议与隐私政策》

这是明确权责的“法律保障”,需兼顾合规性和用户知情权,核心条款不可缺失:

  • 服务协议核心:明确服务范围、使用限制(如禁止用于生成违法内容)、平台权责(如对违规内容的删除权)、用户责任(如提交合法素材)及违约责任(如用户违规导致的损失承担)。
  • 隐私政策核心:清晰说明用户数据收集范围(如仅收集必要的账号信息)、使用目的(如仅用于模型优化且需匿名化)、存储期限(如用户注销后15日内删除数据)、共享规则(如不向第三方共享个人信息),并提供“关闭数据训练”的便捷操作(路径不超过四次点击)。
  • 投诉机制:明确投诉渠道(如电话、邮箱、在线表单)、处理时限(如7个工作日内反馈)及争议解决方式(如协商、仲裁)。

三、独家避坑指南:高驳回风险点与优化建议

(1)语料安全不合规

常见问题:来源未授权、含未脱敏个人信息、违法不良信息超标

优化建议:1. 商业语料附授权合同,开源语料存证协议;2. 用工具筛查并删除个人敏感信息;3. 每批次语料附合规检测报告

(2)生成内容有风险

常见问题:敏感问题不拒答、生成内容误导性强(如医疗建议错误)

优化建议:1. 优化拒答算法,确保敏感问题识别准确率≥98%;2. 专业领域(医疗、金融)模型附行业专家审核意见

(3)安全措施不足

常见问题:无关键词动态更新机制、用户数据删除不便

优化建议:1. 建立每月更新台账并留存记录;2. 优化用户中心,设置“一键删除数据”功能

以上就是大模型备案必备材料清单与撰写解析,有任何疑问可以随时在评论区交流~

更多推荐