在 LLM （大规模语言模型）应用开发领域，开源框架扮演着至关重要的角色，为广大开发者提供了强大的工具支持。作为这一领域的领军者，LangChain 凭借其创新设计和全面功能赢得了广泛赞誉。但与此同时，一些替代框架也应运而生，为不同场景下的需求提供了更优选择。

“如何评估大模型微调效果？”这个问题在面试中出现的频率极高，在真实的工业场景下微调好的模型不一定能够达到使用标准，因此评估微调模型的效果几乎是每个大模型技术人的必备技能。在真实的工业环境中微调效果的评估往往都是人工评估+自动化评估两条腿走路。

“如何评估大模型微调效果？”这个问题在面试中出现的频率极高，在真实的工业场景下微调好的模型不一定能够达到使用标准，因此评估微调模型的效果几乎是每个大模型技术人的必备技能。在真实的工业环境中微调效果的评估往往都是人工评估+自动化评估两条腿走路。

本文详细介绍了如何使用Ollama和CherryStudio搭建本地知识库AI助手的完整流程。首先通过Ollama下载魔搭社区的文本生成模型和嵌入模型，然后配置CherryStudio连接Ollama服务，最后在CherryStudio中设置知识库实现离线问答功能。整个过程无需联网，不依赖API，适合对隐私有要求或网络条件有限的用户使用。

本文详解KV缓存技术如何优化大模型注意力机制。传统方法每个新token需重新计算所有历史token的K/V向量，导致O(n²)复杂度。KV缓存通过存储已计算的K/V向量，避免重复计算，将复杂度降至O(n)，显著提升推理效率，尽管会增加内存使用。

本文详解KV缓存技术如何优化大模型注意力机制。传统方法每个新token需重新计算所有历史token的K/V向量，导致O(n²)复杂度。KV缓存通过存储已计算的K/V向量，避免重复计算，将复杂度降至O(n)，显著提升推理效率，尽管会增加内存使用。

本文介绍Anthropic提出的MCP创新解决方案，通过代码执行环境与MCP结合，实现98.7%的token使用率降低。文章分析传统工具调用瓶颈，提出将MCP服务器呈现为代码API，并阐述五大核心优势：渐进式工具披露、高效结果处理、强大控制流、隐私保护和状态持久化。这种架构使AI Agent能连接数千工具，处理大数据量，执行复杂工作流，显著降低成本和响应时间。

本文介绍Anthropic提出的MCP创新解决方案，通过代码执行环境与MCP结合，实现98.7%的token使用率降低。文章分析传统工具调用瓶颈，提出将MCP服务器呈现为代码API，并阐述五大核心优势：渐进式工具披露、高效结果处理、强大控制流、隐私保护和状态持久化。这种架构使AI Agent能连接数千工具，处理大数据量，执行复杂工作流，显著降低成本和响应时间。

本文通过一张图详解了AI Agent的五大核心模块：Prompt提示词、LLM大模型、Memory知识库、Planning任务规划和Action行动执行。这五个模块协同工作，形成闭环机制，使AI Agent具备自主性、适应性和学习性，能够从理解用户需求到自动完成复杂任务，真正实现从"说"到"做"的跃迁。

本文通过一张图详解了AI Agent的五大核心模块：Prompt提示词、LLM大模型、Memory知识库、Planning任务规划和Action行动执行。这五个模块协同工作，形成闭环机制，使AI Agent具备自主性、适应性和学习性，能够从理解用户需求到自动完成复杂任务，真正实现从"说"到"做"的跃迁。