
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
MCP(Model Context Protocol)服务器是为AI应用提供标准化上下文的工具,包含三大核心功能:工具(Tools)、资源(Resources)和提示词模板(Prompts)。工具支持主动调用执行操作;资源提供只读数据;提示词模板指导模型完成任务。本文详细讲解了如何在FastMCP框架下定义这三类功能,并通过实战演示客户端如何连接MCP服务器、调用工具、读取资源和获取提示词模板。同

MCP(Model Context Protocol)是一种连接AI应用与外部系统的标准化协议,类似于AI领域的"万能插座"。它解决了传统工具调用中的工程挑战,如接口不统一、重复开发等问题。MCP包含Host、Client、Server三个核心角色,支持stdio和HTTP两种通信方式。 在快速上手部分,通过fastmcp库搭建了本地计算器服务和远程天气服务,并使用langch

LangSmith是一款专为AI应用设计的监控调试平台,支持LangChain等多种框架。只需配置API密钥和环境变量,即可自动记录LLM应用的完整执行流程,包括每一步的输入输出、耗时、报错等信息。通过可视化界面,开发者可以清晰查看调用链、分析性能瓶颈,无需额外编码就能实现全流程监控。该工具特别适合复杂AI项目的调试和优化,帮助开发者快速定位问题。

本文详细探讨了LangChain中聊天模型的流式传输机制及其实现原理。主要内容包括:1. 流式传输的优势在于逐步显示输出,显著改善用户体验;2. 同步流式传输使用.stream()方法返回迭代器,异步流式使用.astream()方法;3. 可通过自定义输出解析器控制流式输出格式;4. 底层基于HTTP协议和SSE技术实现,LangChain将OpenAI返回的JSON数据块转换为标准AIMessa

摘要:提示词模板是LangChain中的核心组件,用于动态生成大语言模型(LLM)请求。它通过占位符机制实现提示词复用,支持字符串模板(PromptTemplate)和聊天消息模板(ChatPromptTemplate)两种形式。主要优势包括:1)提高开发效率,避免重复编写提示词;2)实现工程与内容的关注点分离;3)保证提示结构一致性;4)便于统一维护修改。LangChain还支持从LangCha

摘要:少样本提示(Few-shot Prompting)是一种通过提供少量示例指导大语言模型执行特定任务的技术。文章详细介绍了其工作原理、应用场景和实现方法,包括四种示例选择策略(长度、语义相似性、最大边际相关性和N-gram重叠)及其在LangChain中的具体实现。通过数学运算、信息提取等案例,展示了如何利用示例数据提升模型性能,控制输出格式,并解决复杂推理任务。文章还比较了不同选择策略的特点

当使用 LLM 生成结构化数据或规范化聊天模型和 LLM 的输出时,这很有用。大型语言模型(LLM)的输出本质上是非结构化的。但在构建应用程序时,我们通常希望得到结构化的、机器可读的数据,这样可以将其转换为Pydantic它们将 LLM 的非结构化文本输出转换为结构化格式。这使得与 LLM 的交互从 “模糊的文本对话” 变成了 “精确的数据 API 调用”,是构建可靠、高效 LLM 应用不可或缺的

本文介绍了文本向量嵌入技术及其应用模型。嵌入模型将人类语言转换为计算机可理解的数值向量,保留语义关系,实现语义搜索、推荐系统等应用。文章详细解析了向量空间概念、相似度计算方法(欧氏距离、余弦相似度),并演示了如何使用LangChain框架集成OpenAI等嵌入模型。重点讲解了向量数据库的核心机制(如ANN近似搜索)及实际应用,包括内存存储(InMemoryVectorStore)、Redis和Pi

本文介绍了LangChain中的检索器(Retrievers)及其应用。检索器是检索系统的核心组件,能够从大规模数据中查找相关信息,支持多种实现方式如关系数据库、词法搜索索引和向量数据库。重点展示了如何使用Redis向量存储作为检索器,包括初始化配置、执行查询和结果处理。文章还演示了如何通过@chain装饰器创建自定义检索器,并构建了一个完整的RAG(检索增强生成)案例,将检索结果与大语言模型结合

实际上,可能会因删除消息而丢失信息。因此,某些应用更希望将消息历史记录进行总结,把旧的对话内容总结成简短摘要,保留关键信息,以代替冗长的历史记录。总结消息。核心思路是:在删除原始历史消息之前,先调用大语言模型,把冗长的对话内容提炼成简短的摘要,用摘要替代原始消息保存。这样一来,既缩减了内容体量、降低了 Token 占用,又完整保留了对话的关键信息,解决了裁剪、删除消息导致信息丢失的问题。想要实现消








