本文提供了从零开始学习大语言模型（LLMs）的五阶段学习路线：1）掌握微积分、线性代数和概率论等基础数学；2）学习神经网络原理与实现；3）理解Transformer架构与预训练过程；4）掌握模型微调技术；5）了解基于人类反馈的强化学习（RLHF）等对齐方法。文章推荐了3Blue1Brown、DeepLearning.AI等优质学习资源，并强调在IT行业调整期，AI大模型正成为重要趋势，为读者提供了

本文探讨了多智能体设计模式在工程开发中的实践应用，重点分析了字节跳动Trae工具的多智能体架构。Trae采用双重开发模式（IDE模式和Solo模式）和MCP协议支持，实现了从传统IDE向AI团队协作平台的升级。其智能体生态具有高度可扩展性，支持定制化开发，并能通过上下文理解机制处理复杂任务。文章指出在经济下行和AI产业结构调整背景下，掌握大模型技术将成为重要趋势，并推荐了适合新手学习大模型的资源。

AI智能体系统在企业落地需要解决用户、AI智能体和外部工具间的通信问题，核心涉及三个协议设计： MCP协议：标准化AI智能体与工具的交互，通过分离控制责任（提示词、资源、工具）实现安全高效的数据接入。 A2A协议：实现跨框架AI智能体间的协作，包含能力发现、任务管理和用户体验协商等功能，基于现有标准（HTTP/JSON-RPC）构建。 AG-UI协议：提供前后端标准化通信机制，采用事件驱动架构实现

多智能体系统（MAS）是解决复杂AI任务的有效范式，适用于分布式问题、多样化任务、高鲁棒性需求及多方博弈场景。文章通过医疗诊断系统和新闻生成器案例，展示了如何通过角色分工（如研究分析师和内容撰稿人）实现高效协作，并介绍了四种主流设计框架：Agents as Tools（工具化智能体）、Swarm（蜂群模式）、Graph（图模式）和Workflow（工作流模式）。这些框架为构建可扩展、专业化的AI系

本文对比分析了七种大模型流式输出的底层传输技术，包括短轮询、长轮询、WebSocket、SSE、Streamable HTTP、MQTT和gRPC-Web。文章从技术原理、优劣势、适用场景和性能指标等维度进行深入探讨，指出不同技术在延迟、带宽效率、实现复杂度等方面的差异。随着实时交互需求的增长，流式传输技术正从早期的轮询机制向WebSocket、SSE等原生流式技术演进，并在HTTP/2、HTTP

本文介绍了大模型RAG系统中的文本召回模型，包括稀疏向量和稠密向量检索两类。稀疏向量模型重点分析了TF-IDF和BM25算法，前者通过词频和逆文档频率计算权重，后者改进了词频饱和度和文本长度影响。稠密向量模型对比了BERT和GPT的结构特点：BERT采用双向注意力机制，适合语义理解任务；GPT使用单向注意力，更适合内容生成。文章指出，混合检索结合了两类模型的优势，能同时提取关键词和语义信息。

本文通过一张图解阐释了AI智能体架构中"提示词"、"Agent"、"大模型"、"MCP"和"工具"的协同关系。提示词作为用户指令激活大模型；智能体进行任务规划和工具调度；大模型提供核心认知能力；MCP协议标准化工具连接；工具则负责具体执行。五者形成从意图到反馈的完整闭环，使AI既能思考又能行动。作者

摘要： RAG（检索增强生成）系统在多轮对话中面临语义理解问题，其固定流程（先检索后增强）导致难以处理对话间的关联性。例如，当用户先后询问"怎么做西红柿炒蛋"和"怎么做得更好"时，RAG可能召回无关文档。解决方案包括问题改写和上下文拼接，但会带来新问题：独立对话可能被污染，或关联对话难以区分。相比之下，智能体（Agent）更接近人类思维模式，能自主判断是否需

RAG（检索增强生成）摘要 RAG通过结合检索系统与大模型，实现了"先查资料再回答"的智能模式，有效提升回答准确性和可信度。本地部署大模型时，建议叠加RAG技术以获得更专业的领域知识响应。实现流程包括：语料准备→清洗分块→向量化→检索→重排→生成回答。 关键步骤： 收集整理代码/文档语料，按功能逻辑分块 构建本地向量库（FAISS）和BM25索引 混合检索策略（向量+关键词）获

本文系统介绍了大模型微调技术，从基本原理到实战应用。主要内容包括： 微调核心价值：突破外围增强技术局限，实现领域适配、精度提升和效率优化 微调原理：通过数据驱动的参数迭代优化模型，包括损失量化、梯度下降等关键机制 主流微调技术对比：全参微调效果优但资源消耗大，PEFT技术(如LoRA)成为资源受限场景首选 实战指南：基于ms-swift框架的LoRA微调流程，包括环境配置、数据准备、训练状态判断等