揭秘Agent中的CoD:为什么智能体突然学会了“边想边干”?(上)
你有没有发现,AI圈子里总是会冒出来一堆稀奇古怪的缩写——CoT、ToT、ReAct……今天我们就来讲一讲这个CoD,掰扯清楚这个CoD到底是个什么玩意儿。
说实话,我第一次看到CoD的时候,脑子里蹦出来的是“Cash on Delivery”——货到付款。心想,这AI Agent咋还跟淘宝扯上关系了?后来才明白,此CoD非彼CoD。在AI智能体(也就是Agent)的世界里,CoD指的是Chain of Draft,中文叫“草稿链”。
草稿?就是那种我们上学时候在草稿纸上鬼画符、只有自己能看懂的那种?没错,就是这个。
一、为什么会有CoD?
要搞懂CoD是啥,得先说说它之前的老大哥——CoT(Chain of Thought,思维链)。 CoT的理念很简单:让AI像人一样,一步一步地思考,把推理过程全写出来。就像一个学霸做数学题,每一步推导都工工整整写在答题卡上。 这方法好吗?好,特别好。准确率蹭蹭往上涨。
但问题来了:太能写了。 想象一下,你让AI帮你查一下“明天天气怎么样”,结果它开始自嗨: “好的,用户询问明天天气情况。首先我需要理解用户的意图,天气查询属于实时信息需求,我需要调用天气API。但我不确定用户的地理位置,可能用户默认指的是当前所在城市。根据系统设定,当前定位是北京。那么我需要查询北京明天的天气预报。考虑到天气预报通常包括温度、降水概率、风力等信息,我应该……” 等你看到最后那句“明天北京晴,10-20℃”的时候,估计已经把这AI骂了八百遍了。 这不叫智能,这叫磨叽。
这种长篇大论的思考过程,既烧钱(Token收费)又占内存。就像一个说话啰嗦的朋友,明明一句话能说完的事,非要给你从盘古开天辟地讲起。 于是,CoD横空出世了。
二、CoD到底是什么?
CoD的核心思想特别朴素:像人一样打草稿。 你还记得自己学生时代怎么解题的吗? 你不会把每一步都工整写下来。你就在草稿纸上随便画两笔:“嗯...这个公式套进去...然后代入x...得4...不对,等等,符号错了...改一下...好了,答案16。” 然后你会在答题卡上,直接写“解:……答案16”。
整个过程,草稿纸上只有几个关键词、几个数字、几个箭头。你自己看得懂就够了。 CoD干的就是这个事。 它让AI在“思考”的时候,只记录最关键的信息——几个关键词,一些核心数据,一个简单的判断。就像脑子里快速闪过几个念头,然后直接给出答案。 还是刚才那个天气查询的例子,用CoD的AI会这样:
内部思考过程:
用户意图:查天气
位置:北京(当前默认)
时间:明天
需调用:天气API
API返回:晴,12-22℃,北风3级
输出格式:简洁回答
最终输出:“明天北京晴,12-22℃,北风3级。” 看到了吗?思考过程里的废话全没了,只剩下几个关键词。就像草稿纸上的零星笔记,外人看不懂,但AI自己心里门儿清。
三、那么,CoD到底解决了什么问题?
第一个问题:话痨; 老式AI像个话痨,做任何事都要把心里话全倒出来。CoD让AI学会了闭嘴思考。这就好比你的同事从“这个方案我考虑一下,首先我们从市场角度分析……然后从技术可行性……”变成了“好,马上做”。爽不爽?
第二个问题:钱包痛; 现在大模型基本都是按Token收费的。你让AI说一堆废话,那都是在烧钱。CoD大幅压缩了思考过程的长度,有时候能把Token消耗减少90%以上。对于企业来说,这就意味着真金白银。
第三个问题:速度慢; 想一下,AI写1000字和写10个字,哪个快?CoD让AI的响应速度明显提升,用户体验好了不是一星半点。
第四个问题:注意力分散; 有时候话说多了容易跑偏。CoD强迫AI聚焦在最核心的信息上,反而减少了犯错的可能性。
好了,上篇咱们搞明白了CoD是什么以及为什么会出现。简单来说,就是让AI从“啰嗦的学霸”变成了“高效的老手”。
更多推荐
所有评论(0)