logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

事故出在模型外面:从 Prompt Engineering 走向 Harness Engineering 的四次线上复盘

过去一年,我们把大模型接进一款跑了多年的某电商接待机器人,前端入口是微信客服会话。接完之后线上出的事故,复盘下来没有一起的根因在模型里:模型本身没有变笨,价格没变,上游也没换过几次。出事的全是包在它外面的那一层——喂给它的教材、下一轮带进去的上下文、往外传输的流式协议、以及放它执行动作之前的那道闸。这一层有个英文名字,Harness,直译是"挽具":让一匹马愿意拉车的所有马具、缰绳和车辕。

#面试#职场和发展
AI客服系统架构复盘:LLM应用上线后,决定稳定性的不是模型也不是提示词——一个7×24电商客服机器人的大模型工程化实战

前阵子"从 Prompt Engineering 走向 Harness Engineering"这个话题上了热榜,核心论断一句话:模型不是产品。我认同这个判断,但想把它往前再压一层。——输出清洗、流式协议重建、上下文卫生、发送前闸门、失败兜底、成本意识。模型偶尔犯轴,提示词偶尔失配,但只要这圈支架做得够硬,客户那边就是感知不到的;反过来,支架薄一层,上游每一个不规范的习惯都会原样砸到真实客户脸上。

#人工智能#系统架构
AI客服系统架构复盘:LLM应用上线后,决定稳定性的不是模型也不是提示词——一个7×24电商客服机器人的大模型工程化实战

前阵子"从 Prompt Engineering 走向 Harness Engineering"这个话题上了热榜,核心论断一句话:模型不是产品。我认同这个判断,但想把它往前再压一层。——输出清洗、流式协议重建、上下文卫生、发送前闸门、失败兜底、成本意识。模型偶尔犯轴,提示词偶尔失配,但只要这圈支架做得够硬,客户那边就是感知不到的;反过来,支架薄一层,上游每一个不规范的习惯都会原样砸到真实客户脸上。

#人工智能#系统架构
电商客服 AI Agent 架构复盘:意图路由分档、转人工兜底与幂等去重——智能体设计模式的最终形态

档判据来源产出典型触发一档·自定义规则商家自己配置的关键词与话术毫秒级 canned 回复商家配过的发货地、尺码建议二档·工单档操作性意图识别生成工单并决定归属“改地址”“催发货”“申请售后”三档·转人工规则服务红线关键词表进入人工链路买家明说"找人工"、投诉升级类词四档·AI 档模型生成清洗后的回复文本长尾咨询、寒暄、复杂表述规则在前、模型在后;红线夹在中间兜着。一条消息每往上走一档被拦下,就少

#人工智能#架构#设计模式
到底了