messages=[{"role": "user", "content": "问题"}],但这3行代码里还藏着几个关键参数没有动过。今天的目标：把和max_tokens拆开，看它们到底控制什么。是"你给我老实点"，是"放开说"——但放开太狠LLM直接说胡话了。安全区间0~0.7，生产环境建议0.3。

前两天分别学了 Embedding（文字→向量）和向量检索（找相关文档）。用户问题 → 向量检索 → 找到相关文档 → 拼接prompt → LLM生成回答RAG = 检索 + 生成。先搜资料再回答，既让 LLM 能回答知识库外的问题，又避免了幻觉（瞎编）。这 3 步（检索→拼接→生成）是后面所有知识库 Agent 的基础。

前7天我一直在调 LLM API，但有一个根本限制——LLM 只能回答训练数据里有的东西。你问它"公司内部 API 文档怎么写"，它不知道。先把相关资料检索出来，再和问题一起发给 LLM。而 RAG 的第一步，就是今天要学的 Embedding——把文字变成数字向量。Embedding 把"不可计算的语义"变成"可计算的数字"——两段文字的语义相似度，变成了两个向量的余弦距离。这是 RAG 检索的

前两天分别学了 Embedding（文字→向量）和向量检索（找相关文档）。用户问题 → 向量检索 → 找到相关文档 → 拼接prompt → LLM生成回答RAG = 检索 + 生成。先搜资料再回答，既让 LLM 能回答知识库外的问题，又避免了幻觉（瞎编）。这 3 步（检索→拼接→生成）是后面所有知识库 Agent 的基础。

前两天分别学了 Embedding（文字→向量）和向量检索（找相关文档）。用户问题 → 向量检索 → 找到相关文档 → 拼接prompt → LLM生成回答RAG = 检索 + 生成。先搜资料再回答，既让 LLM 能回答知识库外的问题，又避免了幻觉（瞎编）。这 3 步（检索→拼接→生成）是后面所有知识库 Agent 的基础。

本文揭示了大型语言模型（LLM）多轮对话的底层机制：LLM本身不具备记忆功能，而是通过每次请求时传递完整的messages数组（包含全部对话历史）来模拟记忆效果。通过两个实验对比发现，当包含历史对话时，LLM能准确理解上下文相关的问题；反之则无法关联前后问题。随着对话轮次增加，messages数组会线性增长导致token消耗剧增和响应变慢。文章指出需要采用类似缓存策略的记忆系统（如上下文窗口裁剪或

前面几天我们一直在调参数（temperature、system prompt），今天学一个不调参数也能大幅提升回答质量的技巧——Chain-of-Thought（思维链）。核心思想：在问题后面加一句"请一步一步推理"，LLM 会自动把问题拆成步骤，每一步都验证后再输出结论。CoT 就是在 prompt 后面加"请一步一步推理"——让 LLM 从"直接给答案"变成"展示推导过程"，准确度和可读性都大

本文记录了一位Android开发者转行AI Agent开发的第一天学习经历。作者通过Kotlin思维理解LLM API调用，发现其本质与Android中的HTTP请求类似。文章详细介绍了环境准备、核心代码实现（仅需3行），并对比了Python与Kotlin的对应写法。重点讲解了Token计费概念，并分享了"先跑通再理解"的学习方法。最后总结指出LLM API本质上就是一次HTTP POST请求，为

第8天我把文字变成了向量。今天把这些向量用起来——有一个知识库（5条文档），用户提问，找出最相关的文档。这是 RAG 的"R"（Retrieval）部分。向量检索就三步：把查询变向量 → 遍历知识库算余弦相似度 → 排序取 Top K。后面学 Chroma 向量数据库时，这些手写逻辑会被封装成一行代码。

前7天我一直在调 LLM API，但有一个根本限制——LLM 只能回答训练数据里有的东西。你问它"公司内部 API 文档怎么写"，它不知道。先把相关资料检索出来，再和问题一起发给 LLM。而 RAG 的第一步，就是今天要学的 Embedding——把文字变成数字向量。Embedding 把"不可计算的语义"变成"可计算的数字"——两段文字的语义相似度，变成了两个向量的余弦距离。这是 RAG 检索的