- 大模型的三大短板：知识时效性、专业化知识缺失、幻觉问题- RAG的解决思路：先检索相关文档，再基于检索结果生成回答- 实战中，RAG系统需要处理动态知识库和多轮对话等复杂场景- 优化方向包括检索准确性、上下文管理、实时性等在接下来的课程中，我们将深入探讨如何构建生产级的RAG系统，包括向量数据库选型、检索优化、以及如何与现有业务系统集成。记住，RAG不是大模型的替代品，而是它的“外挂大脑”——

上一篇博客介绍了在 Hailo-10 上实现语音识别应用，这次我们来聊聊它的另一个重要功能：本地大模型推理。当然如果只是做离线对话的话，应用场景可能比较有限，下面结合 LangChain 实现一个简单的 RAG 应用。设备仍然使用之前介绍的 ASUS UGen300。1环境配置与音频模型只能在 Linux 上运行不同，本地大模型推理可以在 Windows 上实现。这里是在安装了 Raspberry

如果说Agent是汽车，那么大模型就是发动机，而IChatClient管道就是那根精密的传动轴——它决定了动力能否顺畅输出。在实际项目中，你还可以基于这个模式扩展更多能力：多模型路由（根据问题复杂度选择模型）、缓存（相同问题直接返回）、安全过滤等。，它屏蔽了不同大模型（OpenAI、Claude、Gemini、本地模型等）的API差异。## 流式输出的管道处理大模型的流式输出（一个字一个字蹦出来）

分块向量记忆RAG 架构。

能力增强：模型不再只输出最终答案，而是输出中间推理步骤（比如“先创建模型文件，再创建路由”），代码生成工具再将这些步骤转换为可执行的命令。过渡时，关键要理解每个工具的“心智模型”差异：豆包是“问答”，Codex CLI 是“指令”。从最初用豆包（Doubao）做简单代码问答，到如今用 Codex CLI 实现全流程自动化，这条路线不仅反映了工具本身的迭代，更揭示了 AI 与开发者协作模式的深刻变革

端点为例，深入剖析其背后的 Loop Engineering 原理，并展示如何通过可运行的代码片段，将循环控制从概念落地为生产级实践。在软件工程的演进中，循环（Loop）——无论是事件循环、主循环还是状态机循环——始终是驱动系统持续运行的核心机制。然而，将抽象的“循环”概念转化为可靠、可扩展的工程实现，往往需要跨越理论到实践的鸿沟。端点是一个典型的 Loop Engineering 实现——它提供

上一篇博客介绍了在 Hailo-10 上实现语音识别应用，这次我们来聊聊它的另一个重要功能：本地大模型推理。当然如果只是做离线对话的话，应用场景可能比较有限，下面结合 LangChain 实现一个简单的 RAG 应用。设备仍然使用之前介绍的 ASUS UGen300。1环境配置与音频模型只能在 Linux 上运行不同，本地大模型推理可以在 Windows 上实现。这里是在安装了 Raspberry

tool“”“通过调用第三方接口，将天气进行返回”“”print(f"正在查询{city}天气…“)return f”{city}今天是晴天，气温25度"创建 AgentLangChain 入门 Model 的初始化和调用接下来创建一个 Agent，并指定使用 deepseek 模型。LangChain 会自动加载.env 文件中的 DEEPSEEK_API_KEY ，并根据指定的模型，去访问对应

不管你是 AI 初学者，还是有经验的开发者，AI、Agent、MCP、工作流编排，现在已经成为 Java 开发者的必备基础能力，而 Spring AI 则是 Java 接企业 AI 应用落地很重要的一套方案了。现在只对工具调用片段进行缓冲，允许在生成时其他 token 直接流出。Spring AI 2.0 宣布移除智谱！2.0 正式版都马上要正式发布了，RC 版本居然现在还在改架构、大型重构，真是

如果说 CommitLog 是“流水账本”，那 ConsumeQueue 就是“分类目录”——它不存储消息本身，只存储每条消息在 CommitLog 中的物理位置（偏移量），以及消息的大小和 Tag 的哈希值。它像一个勤劳的“搬运工”，不断从 CommitLog 中“搬运”消息的索引信息到对应的 ConsumeQueue 中。如果说前两篇是站在“使用者的角度”看 RocketMQ，那么这一篇，我们