
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
大模型(LLM)很厉害,能写诗、能编程、能跟你聊天。它记不住东西—— 上周你跟它说过的事,这周它全忘了。因为 LLM 是stateless的,每次调用都是全新的开始。它不会动手—— 你让它"帮我查一下这个网页",它只能告诉你"你可以用 requests 库这样做……",但它自己干不了。它不知道你的内部信息—— 你公司内部的文档、代码库、业务数据,LLM 的预训练数据里可没有。它的知识有截止日期——

AI Agent 的本质就是一个带工具调用的对话循环。LLM 推理 → 调工具 → 观察结果 → 再推理。一个 30 行的 for 循环就是整个系统的心跳。理解了这一点,任何 Agent 框架(LangChain、AutoGPT、CrewAI)在你眼里都会变得透明。工具设计不是在写 API,而是在和 LLM “对话”。你需要预判 LLM 会在什么场景下犹豫,主动设计容错和引导。描述写多详细、参数怎

我在同一个仓库里维护着两个学习项目,一个叫path_fs,一个叫mcp-demo。刚开始没觉得它们之间有什么关系——一个在练 Node.js 最基础的文件路径和文件读写,一个在折腾 LangChain 和 MCP 协议。path_fsNode.js 怎么访问文件系统?(基本功)mcp-demoAI 怎么访问外部工具和数据?(新范式)程序如何与其他东西通信?——以前是程序与文件系统通信,现在是程序与

流式非流式API 参数响应处理逐块读一次拿数据格式SSE 分块流完整 JSON 对象用户看到逐字出现等完一次出代码量多十几行一行搞定体验✅ 好❌ 差用户输入 → v-model 绑定 → fetch POST (stream:true)→ getReader() → TextDecoder → while 逐块读→ 拼接到 content.value → Vue 响应式更新 {{ content

Benchmark 是门槛:分数低的大概率不行,但分数高的也需要实际验证任务要分层:不同难度的任务用不同档位的模型,别什么都上最贵的看流程参与度:能调用工具、能推进流程的模型,比只会聊天的价值大得多算总成本:Token 费用只是一部分,人工校验、失败返工、时间成本都要算进去。

核心要点:RAG 解决的是 LLM "不知道"的问题:训练数据里没有的信息,通过检索外部知识库来补充,成本远低于微调向量语义搜索是 RAG 的引擎:关键词匹配做不到的"铁哥们≈最好的朋友",向量能搞定。整个过程靠 Embedding 模型自动完成技术栈很轻:LangChain 做编排、ChromaDB 做向量存储、DashScope 提供模型——三个组件,几十行代码,就能跑起来一个 RAG把知识库

流式非流式API 参数响应处理逐块读一次拿数据格式SSE 分块流完整 JSON 对象用户看到逐字出现等完一次出代码量多十几行一行搞定体验✅ 好❌ 差用户输入 → v-model 绑定 → fetch POST (stream:true)→ getReader() → TextDecoder → while 逐块读→ 拼接到 content.value → Vue 响应式更新 {{ content

控制概率分布的发散程度,top_k限制采样候选集合。它们的目标不是单独追求随机或保守,而是让输出匹配具体业务。LangChain 通过将 AI 调用拆成清晰的工作流。先固定测试集,再逐项调参,才能让“大模型随机性”变得可观测、可控制。

Benchmark 是门槛:分数低的大概率不行,但分数高的也需要实际验证任务要分层:不同难度的任务用不同档位的模型,别什么都上最贵的看流程参与度:能调用工具、能推进流程的模型,比只会聊天的价值大得多算总成本:Token 费用只是一部分,人工校验、失败返工、时间成本都要算进去。

RAG 切块解决“知识如何被精准找到”,流式解析解决“模型结果如何实时到达页面”,Skill 解决“重复工作如何被稳定交给 Agent”。在每一层都明确输入、边界、转换和输出。








