logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

第四章 LangChain应用级系统设计与RAG实践

面对同一份项目书,财务专家评估成本,技术专家评估可行性,法律专家评估风险。例如:扒掉大模型输出的外壳只留文本,或者截取字符串的前100个字符,甚至是在中途调用一个外部 API 获取数据。并行处理时,确保最原始的用户提问(或变量)能越过中间步骤,直接传递给最后的大模型组装环节。把同一个输入,同时发给多个不同的处理链条,最后把结果打包成一个字典返回。例如:智能客服系统中,识别用户意图后,订单问题走“查

文章图片
第三章 LangChain进阶组件实操(4.18学习笔记)

它是最“聪明”但也最花钱的记忆方式。它不是直接存对话,而是每隔几轮就让大模型对之前的对话进行一次总结(Summary)。下次对话时,只发送这个简短的总结。超长周期的复杂项目调研、需要跨越几百轮对话保持核心逻辑连贯的场景。能够以极小的篇幅保留核心信息。为了生成摘要,需要额外调用一次大模型,会产生额外的 API 费用和响应延迟。特性全量记忆 (Full)窗口记忆 (Window)摘要记忆 (Summa

第三章 LangChain进阶组件实操(4.18学习笔记)

它是最“聪明”但也最花钱的记忆方式。它不是直接存对话,而是每隔几轮就让大模型对之前的对话进行一次总结(Summary)。下次对话时,只发送这个简短的总结。超长周期的复杂项目调研、需要跨越几百轮对话保持核心逻辑连贯的场景。能够以极小的篇幅保留核心信息。为了生成摘要,需要额外调用一次大模型,会产生额外的 API 费用和响应延迟。特性全量记忆 (Full)窗口记忆 (Window)摘要记忆 (Summa

4.16学习笔记:第二章 LangChain核心组件实操

教程里提到的场景非常真实。有时候,我们不需要像 JSON 那么重的格式。

#学习
到底了