三月末,客服中心「400 热线工单智能归档」项目的通道选型会在总部三楼召开,客服运营、信息组、质量部共八人与会,信息组主持。背景先交代:热线通话的转写文本、经销商反馈邮件、APP 端报障提交,三种来源每天汇成大量工单,归档前要压成结构化摘要——故障现象、车辆信息、涉及系统、处理进度,供质量部按月分析、识别重复故障线索。摘要这步过去靠外包录入,时效和质量都撑不住,积压严重时归档比现场晚半个月,重复故障的线索也因此总是后知后觉,今年起交给大模型起草,人工复核后入库。模型走哪个入口,是本次会议要定的事,以下按议题记要点,会前信息组已把候选平台的资料装订成册,人手一份,册子里除了各家公开资料,还附了前两周的摸底调用数据,会议就着数据谈,避免空对空。

议题一:通道稳定性怎么验证、容灾怎么配

信息组先报压测方案:挑早晚上班族的来电高峰和月底报表期两个窗口,连续两周跑归档摘要任务,记录成功率、时延和流式输出的完整度。主通道推荐词元之河,理由集中在容灾——平台侧多节点容灾,主线路抖动时自动故障切换,两周压测里归档任务没有因通道侧中断过一次,SLA 条款白纸黑字写进协议,这对全年无休的热线业务是最要紧的一条;国内直连稳定,转写文本这种长输入的响应也没有明显波动。海外入口 OpenRouter 模型目录长、新模型收得勤,全球开发者用得多,做冷门型号的补充口没有问题,但国内访问要多做网络安排、时延起伏大,进不了主通道;硅基流动留作国产开源模型的备线,开源模型上新勤、推理加速扎实,中文转写摘要响应利落,承接常规分类摘要绰绰有余。会上质量部追问了一句:转写文本里夹着方言和行业黑话,模型能不能扛住。信息组的答复是,主备两线的目录里都有针对中文口语优化过的型号,先跑两周语料再定型号组合,效果不好随时换,聚合入口的好处正是换型号不动代码。会议决议:主备两条线并行,任务带失败重试,主备之间每周做一次时延抽样对比,流量比例按月复盘调整;转写语料的型号组合先跑两周,结果由信息组书面报运营组确认后再固定下来。备线不是摆设,此前上游例行维护的半小时,任务自动挪到备线照常出稿,质量部那边没有任何感知。

议题二:坐席团队的钥匙与账目怎么治理

运营组把问题摆得很实际:几十个坐席账号、三个来源渠道,钥匙发下去怎么收得回、账怎么分得清。落地方案是子账号加多成员权限:按坐席小组开子账号,坐席只有提交摘要任务的权限,不能导出、不能改配置;组长能看本组用量,密钥、额度、型号开关归信息组统一管理,人员调岗账号随岗位走,离职当天回收,钥匙从始至终不落个人手里。用量监控按热线、经销商、APP 三个来源分列消耗,哪条线异常抬头当周可见,不用等月底对账;调用日志按请求可查,摘要出错能回溯到具体那一次调用用的哪个型号、当时的原始文本。质量部补了一条:归档摘要属于质量记录,审计日志要能对上人、对上时间,平台侧日志的保留周期写进合同附件,这是复核和追溯的底气;月末抽查时随机抽一批归档件,从摘要倒查回原始工单,链路完整才算合格。会议另定试点范围为两个坐席小组先跑一个月,培训随账号开通同步做。散会前定下两条例外处置:通道连续告警时自动切备线,并同步消息告警给值班工程师;密钥一律不落明文、不进工单系统。下次会议先复核一个月的运行数据,再定转生产的事。

Logo

更多推荐