
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
什么是流式传输,就是不会等任务完成后直接返回结果,而是把任务进行中的进展实时返回,主要用途就是让用户实时看到进展,避免等待太长时间影响用户体验。LangChain 的 流式输出 (Streaming),就是来解决这个问题的。它能将 Agent 的思考过程、中间步骤、甚至生成的每一个字,像直播一样实时推送到你面前。这篇博客主要讲述langchain agent的流式输出怎么用,显示效果是怎样的。
在构建智能体应用、大模型应用时,一个常见的痛点是如何从模型的自然语言回复中可靠地提取关键信息。比如,你希望模型返回一个包含姓名、邮箱、电话的JSON对象,但它可能回复“好的,这是你要的信息:张三,邮箱是zhangsan@example.com,电话是123456”。为了在程序中使用这些数据,你不得不编写复杂的正则表达式或提示工程来解析。这不仅低效,而且容易出错。
这篇博客和下篇博客主要讲明白什么是agent的上下文,上下文说白了就是agent系统中,除了大模型以外的所有信息当AI应用处理任务时,它需要的不仅是模型本身,更依赖上下文——即“完成任务所需的信息、工具和环境就像人工作时需要知道“我是谁”、“手头有哪些资源”、“之前说过什么”,AI的上下文也分为三类:静态的配置信息(如用户ID、工具)、单次会话中动态变化的状态(如对话历史)、以及跨会话的长期记忆(
掌握大模型提示词核心知识点,能有效引导模型输出符合预期的结果,最大化发挥其辅助价值。这篇博客主要总结大模型提示词工程的核心知识点。提示词(Prompt)是人与大模型沟通的核心媒介,本质是“引导模型完成任务的指令集合”,分为系统提示词和用户提示词,其中系统提示词是核心引导,优先级高于用户提示词。系统提示词:由开发者或使用者预设,用于定义模型的角色、行为边界、任务标准和输出规范,核心作用是“给模型定身
学习利用docker部署springboot应用
docker部署dify大模型应用平涛

这篇博客和下篇博客主要讲明白什么是agent的上下文,上下文说白了就是agent系统中,除了大模型以外的所有信息当AI应用处理任务时,它需要的不仅是模型本身,更依赖上下文——即“完成任务所需的信息、工具和环境就像人工作时需要知道“我是谁”、“手头有哪些资源”、“之前说过什么”,AI的上下文也分为三类:静态的配置信息(如用户ID、工具)、单次会话中动态变化的状态(如对话历史)、以及跨会话的长期记忆(
在构建基于 LangChain 的智能 Agent 时,系统提示词(System Prompt)是塑造模型行为和角色定位的关键。通常,我们在创建 Agent 时通过 system_prompt 参数设置一个静态的提示词。但实际应用中,我们往往需要根据不同的用户、上下文或对话阶段动态调整提示词。LangChain 提供的 @dynamic_prompt 中间件正是为此而生。本文将结合 LangCha
在构建智能体应用、大模型应用时,一个常见的痛点是如何从模型的自然语言回复中可靠地提取关键信息。比如,你希望模型返回一个包含姓名、邮箱、电话的JSON对象,但它可能回复“好的,这是你要的信息:张三,邮箱是zhangsan@example.com,电话是123456”。为了在程序中使用这些数据,你不得不编写复杂的正则表达式或提示工程来解析。这不仅低效,而且容易出错。
什么是流式传输,就是不会等任务完成后直接返回结果,而是把任务进行中的进展实时返回,主要用途就是让用户实时看到进展,避免等待太长时间影响用户体验。LangChain 的 流式输出 (Streaming),就是来解决这个问题的。它能将 Agent 的思考过程、中间步骤、甚至生成的每一个字,像直播一样实时推送到你面前。这篇博客主要讲述langchain agent的流式输出怎么用,显示效果是怎样的。







