智能体降级态:人工接管必须交接的 5 个字段
智能体降级态:人工接管必须交接的 5 个字段(附交接单)
· 结论:熔断只把写权限收回来,交接才把责任交出去。降级态不是让人照着 AI 的思路接着做,而是让人在一个可自洽的断点上重新起算;一次交接必须同时转移状态、权限、责任三样东西,少一样,人接得住系统、接不住业务。
· 证据:银监发〔2014〕40 号第一百一十一条早已要求「与接管人员办清交接手续」;NEJM 2014 的 I-PASS 研究在 10,740 例入院中把医疗差错降 23%、可预防不良事件降 30%,而口头交接时长只从 2.4 分钟变到 2.5 分钟;BMJ《Quality & Safety》2025 系统综述查了 12 种交接工具,只有 2 种有证据。
· 你拿走四样:① 5 个字段的定义与倒推逻辑(每一种都对应一个真实失败模式);② 一张可直接填空的《人工接管交接单》(表 1 全文附出,不是空头钩子);③ 9 维新久对比表 + 7 条踩坑清单;④ 三类人行动清单,以及最容易被漏掉的那个验收动作——接收方复述。
图 1|五个字段不是从表格规范里抄的,是从五种「接不住」倒推出来的
一、熔断按下后的第 5 分钟,值班经理缺的不是权限
上一篇文章把熔断拆成「停—切—冲—回」四段。后台留言里问得最多的是第二段:切过去之后,人拿到什么?
把这个场景摆具体一点。L2 场景降级触发,代理的写权限已被网关冻结,值班经理被叫到工位。他面前是:一个不再写回的代理、一批还在途的业务、一个对客承诺的时限,以及一个必须有人签字的决定。他问的第一个问题通常不是「模型怎么了」,而是三句更朴素的话——刚才做到哪了、哪些已经记账了、我能不能签这个字。
这三句话,一句问状态,一句问依据,一句问权限。没有一张交接单能靠「系统日志都在,你自己看」来回答。
有个跨行业的数字很适合放在这里。2014 年《新英格兰医学杂志》发表的 I-PASS 研究,在 9 家医院、10,740 例入院中把结构化交接引入班次轮换:医疗差错从每百例 24.5 降到 18.8(降 23%),可预防不良事件从 4.7 降到 3.3(降 30%)。而口头交接时长是 2.4 分钟对 2.5 分钟,统计上无差异。
结构化没有让交接变长,只是让原本非结构化的那几分钟有了形状。 这一条直接回应了最常见的反对意见:「熔断时哪有时间填表」。答案在第五节:交接单不该是现场手写的,应该是系统预填、现场签字。
图 2|10,740 例、23%、30%、2.4→2.5 分钟:交接的成本不在时长,在漏项
BMJ《Quality & Safety》2025 年那篇系统综述给 handoff 下过一个定义,我认为是全文最该被金融从业者记住的一句:交接是「连同权限与责任一起,把信息传递出去」的标准化方法。 后半句才是重点。
对照一下我们常见的「人工接管」:拉个群、发一段告警、贴一条日志链接、@ 一下值班经理。信息传了,权限没说,责任没签字。按这个定义,那不叫交接,叫通知。
二、制度早写了「办清交接手续」,只是交出方从来都是人
很多机构把「AI 时代的交接」当成全新课题。其实银行业对交接的强制要求,2014 年就落成条文了。
《商业银行内部控制指引》(银监发〔2014〕40 号,2014-09-12 发布并施行)第一百一十一条:「会计人员调动工作或离职,应当与接管人员办清交接手续,严格执行交接程序。」同一部指引里还铺了三块地基:第一百零七条要求责任分离、相互制约,严禁一人兼任非相容岗位;第一百零八条要求「凡超越权限的,须经授权后,方可办理」;第一百零九条要求账务做到账账、账据、账款、账实、账表、内外账六相符。
【原文】 会计人员调动工作或离职,应当与接管人员办清交接手续,严格执行交接程序。
【翻译】 监管对交接的要求从来不是「有人在」,是办清手续:在途逐笔点清、账实核对一致、权限重新授权、未决事项移交,并且有人签字。它默认双方都是人,共享同一套业务语境,接管人还能边接边问、当场追问一句「这笔到底记了没」。
【定性】 智能体熔断时,交出方不会回答问题。 一份靠口头补充兜底的交接单,在「机器交给人」的那一刻,恰好把所有需要追问的字段留白——制度没缺,缺的是那个能回答的人。
图 3|2014 年那句「办清交接手续」,隐含前提是交出方还能被追问
这不是文字游戏。内控指引的三块地基,翻成今天的运行时语言,几乎就是五个字段里的三个:六相符 → 状态基线,超越权限须授权 → 权限与授权,责任分离 → 接管人不得同时是原审批人。条文不用改,主体换一下就能用。
顺带纠一个容易混淆的口径:第一百一十一条的语境是会计岗位的人事交接,不是信息系统应急,也不是为 AI 写的。本文做的是语义迁移,不是主张它直接构成智能体合规义务;真正的 AI 侧依据在下一节。
三、一个「或」字,省掉了最贵的那段状态重建
《关于银行业保险业人工智能安全开发应用的指导意见》(国家金融监督管理总局,2026-06-18 发布;总局官网公开页未显示文号,本文按文件名与发布日引用,不代拟文号)第(十七)项要求:在高风险应用关键环节建立人工监督和干预机制,明确紧急停用及模型退出条件,建立备用系统或人工替代流程。
【原文】 建立备用系统或人工替代流程。
【翻译】 备用系统的状态在数据库和检查点里,切过去自动带;人工替代流程的状态在人的脑子里,切过去必须重建。一个「或」字,把两种完全不同的状态成本写成了同一个可选项。
【定性】 监管允许你选,但没替你付状态重建的钱。 熔断最贵的不是把开关按下去,是按下去之后,让另一个主体在几分钟内获得与代理等价的业务上下文。这五个字段,就是那笔钱。
图 4|「或」字把两条状态成本不同的路径,写成了同一个选项
再看外包侧的老条文,会更清楚。《银行保险机构信息科技外包风险监管办法》(银保监办发〔2021〕141 号,2021-12-30 公布并施行)第十四条要求重要外包的退出策略至少写清三件事:可能造成终止的情形、终止的业务影响分析、终止交接安排;第三十一条(五)要求预先在内部配置人力、掌握必要技能,以便服务中断期间自行维持最低限度的服务能力。
「最低限度服务能力」这七个字,落在备用系统上叫主备切换,落在人工上就叫降级态能跑完一笔完整业务。前者验收的是 RTO,后者验收的是「接管人手里有没有那五个字段」。
图 5|同样是「切」,备用系统继承状态,人工替代必须重建状态
所以真正的架构判断是这一句:降级态不是让人工模仿 AI 继续做,而是让人工在一个自洽的断点上重新起算。 模仿需要复现 AI 的推理链,重新起算只需要知道「断点在哪、依据是什么、我能做什么、还欠什么、什么时候还回去」。这两件事的工程量差一个数量级。
四、五个字段,一一对应五种「接不住」
字段不是拍脑袋列出来的。把过去几年做故障切换时人真正卡住的地方归一下类,稳定落在五种失败模式上,每种模式反过来定义一个必填字段。
图 6|5 个字段 + 第 0 行「复述确认」(可截图):三样东西必须同时转移
这张卡的读法是从右往左:先看「漏了会怎样」,再决定字段里必须写什么。字段的价值不在记录完整,在于它能堵住一种具体的失败。 所以每个字段都配了条文锚点和验收动作——没有验收动作的字段,演练时一定会被填成「已确认」三个字。五字段转移的是状态与依据,第 0 行转移的是责任,两者不能互相替代。
|
字段 |
要回答的一句话 |
漏了会怎样 |
|
① 状态基线 |
刚才做到哪了 |
重复写回、漏做在途、账实不符 |
|
② 决策上下文 |
凭什么这么判 |
沿用错误依据、把异常当正常 |
|
③ 权限与授权 |
我能签什么字 |
越权操作,或没人敢签 |
|
④ 未决与敞口 |
还欠什么、先干哪件 |
对客超时、挂账没人跟 |
|
⑤ 回交门禁 |
什么时候还给它 |
带病恢复、二次熔断 |
图 7|五字段的条文锚点:内控指引、141 号文与《指导意见》三源,每格都配了验收物
① 状态基线:熔断瞬间所有在途事务的快照,逐笔标为已提交 / 已回滚 / 待重放 / 需人工裁定四类,附幂等键、去重窗口、对账时点与未决笔数。术语降一句:幂等键 = 同一笔业务重复提交时也只生效一次的那把唯一编号,没有它,「冲」这一段只能靠人翻流水。
它就是内控指引第一百零九条「六相符」的运行时版本,也是 141 号文第十四条「业务影响分析」在秒级的最小实现。注意:状态基线必须是一个确定的时间点快照,不是一段持续滚动的日志——接管人要的是「从这一刻起算」,不是「自己去看历史」。
② 决策上下文:原始输入摘要、数据来源与取数时间、命中的规则与阈值、模型与提示词版本、置信度、被拦截的动作、推理路径摘要。口径依据是《指导意见》第(二十二)项要求完整保留原始数据、推理路径及阈值触发记录,第(二十一)项的可追溯要求,以及 141 号文第三十二条(五)对模型、算法可解释可验证的要求。
这里有个工程上的分寸:要的是「够复述」,不是「全量 dump」。把几十万 token 的思维链扔给值班经理,等于没给。字段的设计目标是让接管人在两分钟内说出「它为什么判这一笔为异常、依据是哪条规则、数据是什么时候取的」。
图 8|字段 ①②:一个划断点,一个划依据;两者都必须是快照而非流水
③ 权限与授权:接管人获得的临时授权范围、生效与失效时刻、超权限动作的升级路径、具名签字人,以及一条硬约束——接管人不得同时是原审批人(内控指引第一百零七条责任分离)。对应 141 号文第三十二条(二)的最小授权、《指导意见》第(三)项对功能边界、系统和数据权限的要求。
这一栏最容易被写成「由值班经理按现行制度执行」,那是空话。必须写清:冻结期间代理的读权限是否保留、人工通道的写权限由谁在何时开通、临时授权在恢复后是否自动回收。没有失效时刻的临时授权,是下一次事故的入场券。
④ 未决与敞口:待办清单、对客承诺的剩余时限、已挂账与待复核笔数、外部依赖状态,以及一句「最坏情况发生时怎么办」。它对应《指导意见》第(二十六)项把 AI 应用纳入业务连续性管理体系、开展业务影响分析的要求,也正好是 I-PASS 里的 A(Action list)与 S(Situation awareness and contingency planning)。
⑤ 回交门禁:谁批准恢复、复测哪几项、观测窗多长、对账与冲正清单交接给谁、恢复时的版本与阈值快照。对应上一篇文章「回」段的三个条件,以及《指导意见》第(二)项全生命周期治理、第(二十九)项风险事件复盘。
五字段之外,还有第 0 行:复述确认(Read-back)。 接管人用自己的话把五个字段复述一遍、提出疑问、然后签字。这是 I-PASS 最后一个 S(Synthesis by receiver),也是整套交接里唯一一个校验「信息到达」而不是「信息发出」的动作。没有复述,前面五个字段只是系统打印出来的一张纸。
图 9|字段 ③④⑤ 与第 0 行:前三样可自动预填,最后一样必须由人完成
五、交接单全文:预填、签字、复述,三步收口
下面是可直接复制的表 1。它不是监管模板,是作者按上述条文与失败模式整理的工程框架;字段可按场景裁剪,但「复述确认」这一行不许裁。
表 1|《AI 智能体人工接管交接单》(模板,可全文复制到值班手册)
|
区块 |
必填项 |
来源 / 系统落点 |
签字与验收 |
|
抬头 |
触发编号、场景名、触发级别 L?、熔断时刻 T、交出方标识、接管人、单一问责点 |
熔断触发器 + 值班表 |
值班经理确认触发属实 |
|
① 状态基线 |
在途笔数;四分类各几笔;幂等键清单;对账时点;未决笔数 |
网关快照 + 交易流水 |
接管人核对账实一致 |
|
② 决策上下文 |
原始输入摘要、取数时间与来源、命中规则与阈值、模型/提示词版本、被拦截动作 |
决策日志(二十一)(二十二) |
接管人确认依据可复述 |
|
③ 权限与授权 |
临时授权范围、生效/失效时刻、超权限升级路径、读权限状态 |
权限网关 + 授权台账 |
授权人具名,接管人不得兼原审批 |
|
④ 未决与敞口 |
待办清单、对客剩余时限、挂账/待复核笔数、外部依赖、最坏情况预案 |
工单 + 业务影响分析(二十六) |
接管人确认先办事项 |
|
⑤ 回交门禁 |
恢复批准人、复测项、观测窗、冲正清单接收人、版本与阈值快照 |
变更管理 + 复盘记录(二)(二十九) |
批准人签字后方可恢复 |
|
第 0 行 |
接管人复述五字段、记录疑问、复述完成时刻 |
交接单本身 |
接管人签字,交出方留痕 |
图 10|交接单模板(可截图发工作群):前三栏系统预填,最后一栏必须由人签字
再回答第一节留下的那个问题:熔断时哪有时间填表?
工程答案是字段不由人填。① ② ③ ④ 中的绝大部分,应该在熔断触发器动作的同时由控制面自动生成快照——这本来就是《指导意见》第(二十二)项要求日志留痕的副产品,不需要额外建设。现场只做三件事:核对、复述、签字。I-PASS 那 2.4→2.5 分钟之所以没有变长,正是因为结构化交接替代的是原本就存在的那段 unstructured 对话,不是新增一道审批。
反过来说,如果一张交接单要靠值班经理在事故现场逐格手写,它一定会在最需要的时候被跳过——这一点在下一节的踩坑清单里有实测反证。
六、新 vs 旧:最容易被漏的是「可追问性」和「举证物」
表 2|人工接管交接的 9 维新久对比(可直接截图)
|
维度 |
旧:岗位交接(银监发〔2014〕40 号) |
新:机器交给人的降级态 |
|
交接主体 |
人到人,双方共享业务语境 |
系统到人,交出方不可追问 |
|
状态位置 |
凭证、账簿、移交清单 |
网关快照、幂等键、在途四分类 |
|
可追问性 |
可当场提问、可回头找人 |
一次性、无补充机会 |
|
时间尺度 |
天到周,有排期 |
秒到分钟,对客时限在跑 |
|
权限转移 |
岗位授权、离岗审计 |
临时授权 + 失效时刻 + 自动回收 |
|
责任凭证 |
交接双方签字 |
具名授权 + 接收方复述 |
|
未决事项 |
口头交代、移交清单 |
待办 + 剩余 SLA + 最坏情况预案 |
|
恢复条件 |
人员到岗即恢复 |
复测 + 具名批准 + 观测窗 |
|
举证物 |
交接手续与档案 |
移交快照、复述记录、冲正清单、恢复批准 |
图 11|九维里最容易漏的两行:交出方能不能被追问、出事拿不拿得出链路
《商业银行内部控制指引》第一百一十六条要求完善会计档案管理、防止档案被替换、更改、毁损、散失和泄密。搬到降级态,这句话的等价物不是「日志保存 180 天」,而是「移交那一刻的快照不可被后续写回覆盖」。审计要还原的是断点,不是全过程录像。
七、七条踩坑:每一条都对应一次「人接了,但没接住」
图 12|7 条踩坑(可截图):前三条是字段问题,中间三条是流程问题,最后一条是组织问题
1 只发告警,不交状态。群里一句「XX 场景已降级」不等于交接。补法:告警必须携带或指向表 1 的①状态基线。
2 交接单靠现场手写。事故中一定被跳过。补法:熔断触发即由控制面自动生成快照,现场只核对与签字。
3 把全量推理日志当决策上下文。几十万 token 扔过去,接管人两分钟内读不完。补法:给「够复述」的摘要 + 原始路径的可检索索引。
4 临时授权没有失效时刻。恢复后人工通道仍开着,等于多了一条不受控的写回路径。补法:授权与熔断共用同一个生命周期,恢复即回收并留日志。
5 接管人兼原审批人。违反责任分离,出事时签字链自相矛盾。补法:在值班表里预置互斥角色,演练时专门验这一条。
6 没有复述,只有「收到」。信息发出了,不等于到达了。补法:接管人复述五字段、记录疑问与复述时刻,作为交接单第 0 行。
7 发一张表就算实施了交接。这条有硬反证:WHO 手术安全清单在 NEJM 2009 的 8 家医院研究里,死亡率从 1.5% 降到 0.8%、并发症从 11.0% 降到 7.0%;但 NEJM 2014 安大略省 101 家医院强制推行后,比较 109,341 例与 106,370 例,死亡率 0.71%→0.65%(P=0.13)、并发症 3.86%→3.82%(P=0.29),均无显著下降。同一张表,结果相反,差别在培训、本地化与是否嵌进真实工作流。
表格是成本最低的那一部分,实施才是最贵的那一部分。 这句话对交接单、对熔断开关、对 AI 治理体系,同样成立。
这里必须做一次口径纠偏,否则我们和那些拿数字当结论的稿子没区别。I-PASS 的 23%/30% 来自儿科住院场景的前后对照研究,不是随机对照试验;BMJ《Quality & Safety》2025 的系统综述把它评为中等确定性证据、SBAR 为低确定性,并明确指出对可预防死亡率、住院时长等临床结局的影响仍不确定,效果高度依赖实施质量。本文只取它的两个机制结论——结构化交接能减少漏项、且不必然增加时长——不把医疗差错降幅换算成金融风险下降比例。
八、三类人,本周就能派下去的 9 个动作
图 13|三类人各 3 条(可截图发工作群):动词开头,本周就能验收
如果你是机构决策层:① 指定一个 T1 场景,要求本季度演练必须产出一张填完的交接单;② 把「接管人不得兼原审批人」写进 AI 应用准入清单;③ 明确恢复批准人,并要求降级态期间的对客时限有人盯。
如果你是合规、采购或 PMO:① 把交接单纳入外包与模型供应商的退出交接附件,写明快照格式与导出时限;② 逐项核《指导意见》第(二十一)(二十二)项的留痕字段是否能覆盖表 1 的①②;③ 把「复述记录 + 具名签字」设为演练验收的硬门槛,缺一项判不通过。
如果你是技术负责人或架构师:① 在熔断触发器中同步生成在途快照与幂等键清单,别让人现场查流水;② 给临时授权加失效时刻与自动回收,并接进回归测试;③ 把「接管人复述」做成交接单里唯一必须人工填写、且不可跳过的字段。
写到这里,那句「建立备用系统或人工替代流程」可以换个读法了。
图 14|三句话送给正在设计降级态的人(可截图)
制度改的是一句「或」,架构改的是一整条状态链,值班室改的是那句「我复述一遍,你签字」。
更多推荐

所有评论(0)