政策加码:合规不再是选择题

2025年以来,政务AI的合规框架正在以前所未有的速度搭建起来。

2025年9月,全国网络安全标准化技术委员会正式发布《TC260-004 政务大模型应用安全规范》,系统规定了政务大模型在设计、开发与测试环节的安全要求及测试方法。这是我国首个针对政务大模型应用的安全国家标准。标准将安全管理贯穿于政务大模型应用的全生命周期,覆盖大模型选用、部署、运行、停用四个关键阶段。

紧接着,中央网信办、国家发展改革委联合印发《政务领域人工智能大模型部署应用指引》。这份指引明确要求:应扎实做好安全管理,建立安全责任制度;应严格落实保密要求,防止国家秘密、工作秘密和敏感信息等输入非涉密人工智能大模型。

2026年,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》,从产品准则、技术安全、治理体系三个维度构建了智能体的安全底线。

至此,政务AI的合规要求已形成 “法律+规章+标准”三重叠加的监管体系。顶层是《网络安全法》《数据安全法》《个人信息保护法》,中间是专项规章,底层是行业标准。这套体系对政务AI数字员工的选型提出了明确而严格的硬性要求。以金智维为代表的头部服务商已率先取得等保三级、信通院3+级高安全认证等关键资质,这些认证正从“加分项”变为政务采购的实质准入门槛。

法律、规章和技术标准共同保护政务AI数字员工的浅色3D示意图

三道“紧箍”:政务AI安全的三大核心风险

合规框架之下,政务AI数字员工的安全风险可以归结为三大类。

第一,数据安全——最不能触碰的红线。

政务场景涉及大量公民个人信息、政策文件、内部数据乃至国家秘密。一旦这些数据通过AI数字员工泄露,后果不堪设想。

湖北的实践提供了一个可借鉴的解题思路。在湖北省数据局指导下,楚天人工智能公共服务平台上线20余个国内主流开源模型,全部驻场本地政务云运行,所有交互都跑在政务内网的安全边界内。各单位几十年积累的政策文件、办事指南、历史案例,被沉淀为可隔离、可控制权限的RAG知识库,内部数据不“串门”,敏感信息不“裸奔”。湖北省社会保险服务中心与金智维联合打造的“智能体构建数智劳动力”项目,正是通过部署政务智能体,构建了高效的数字经办队伍,成为数据安全合规落地的典型案例。

第二,内容安全——AI不能“放飞自我”。

AI进入政务场景,最怕的就是给出不合规的答复,甚至被恶意诱导。政务答复必须准确、规范、符合政策法规,容不得半点差错。

湖北平台在入口处设置了三道安检线:关键词拦截、自定义敏感词过滤、实时告警。任何不合规的输入输出,都会被当场拦下。更关键的是,每一次问答、每一个回复,全程留痕。谁问的、问了什么、AI怎么答的,一笔笔都记得清清楚楚。

杭州的做法也值得关注——在推理环节加装“安全围栏”,实时拦截敏感词漏检、政策术语误用等风险。

第三,行为安全——AI“动手”能力要受控。

AI不能只会聊天,还得能干事——查数据库、抓网页、调用各类服务。这些“动手”能力,恰恰是安全风险最高的地方。

湖北平台建立了标准化工具接入体系,AI在安全范围内自主调用工具,完成多样化任务。深圳福田区则创新提出了 “监护人制度” ——要求设置“监护人”对政务机器人进行全流程管理,一旦发现机器人犯错就要及时“踩刹车”。政务机器人的使用和管理遵循“谁使用谁负责、谁管理谁负责”的原则。

这三道“紧箍”不是束缚,而是保障。正如一位政务AI平台负责人所说:“就像公务员上班要戴执法记录仪,AI输出的所有内容,都在组织监督之下。”

数据安全、内容安全和行为安全三类风险及人工监护的浅色3D示意图

选型怎么选:四个关键考量

面对纷繁复杂的AI数字员工产品,政务部门在选型时应该如何把关合规与安全?

第一,看资质,不看宣传。

合规资质是政务采购的第一道筛子。等保三级、ISO/IEC 27001、可信云、CMMI等官方认证文件,资质覆盖越全面,越适配政务审计要求。在当前监管环境下,无合规资质、无安全防护、无专业售后的AI服务商已无法进入政企采购体系。

第二,看部署,不看功能。

政务数据必须“不出域”。选型时要重点确认:是否支持全栈私有化部署,核心数据能否存储在本地内网,避免敏感信息流转至外部公共云端。云端SaaS方案无论功能多强大,只要数据离开政务内网,就存在合规风险。此外,非侵入式部署——无需改造现有业务系统即可实现自动化——既能满足“数据不出域”的要求,也能降低系统改造带来的额外安全风险。

第三,看可追溯,不看速度。

AI的“快”要以“可控”为前提。选型时要考察:是否为每一步操作提供可追溯的日志留存;是否有完整的访问权限管控数据追溯链条。没有审计能力的AI数字员工,就像没有记录仪的执法——出了问题无从追责。

第四,看信创适配,不看“通用”。

2026年,政务AI选型还必须加上一个硬指标——信创适配。广州市在编制《政务服务大厅人工智能数字人应用规范》团体标准时,专门提出要“落实国家省市信创政策要求,提出人工智能数字人在国产化基础软硬件环境下的技术路线选型参考”。能否在国产化基础软硬件环境下“跑通”,已成为政务AI选型的刚性门槛。

合规不是终点,是起点

合规与安全是政务AI数字员工的第一关,但不是唯一一关。

《政务领域人工智能大模型部署应用指引》强调,政务部门应建立健全全周期管理体系,明确应用方式和边界,落实人工智能大模型 “辅助型”定位,防范模型“幻觉”等风险。应将持续迭代优化作为人工智能大模型部署应用的关键环节,建立常态化更新机制。

广东的做法值得借鉴。广东省政务和数据局联合省公安厅、国家互联网应急中心广东分中心,在国内率先对“AI政务助手”开展系统性安全风险排查,累计投入专业安全技术力量超600人天。排查形成“检查—反馈—整改—验证”的闭环管理,并计划构建长效的“健康管理”机制。

资质、私有化部署、审计追溯、信创适配和持续治理组成的浅色3D环形流程图

这意味着,政务AI数字员工的安全合规不是一次性工程,而是需要持续投入、持续迭代的长期工作。选型阶段把好合规与安全的第一关,只是万里长征的第一步。

当越来越多的AI数字员工走进政务大厅、坐上办公桌,合规与安全这道“第一关”,考验的不仅是技术能力,更是制度设计、管理水平和责任意识。选对了,AI是提升治理效能的得力助手;选错了,AI就可能成为数据安全的巨大隐患。

政务AI数字员工的选型,没有捷径可走。
合规与安全,是第一关,也是必过关。

更多推荐