本文全面介绍了LangChain和LlamaIndex两大LLM应用框架，涵盖核心概念、LCEL优势、Agent的ReAct执行流程、RAG实现方法及评估策略。详细解释了文档切分的重要性与策略，并提供了自定义Tool的实现方法。通过对比分析两框架的适用场景，帮助开发者根据需求选择合适工具。内容从基础到进阶，适合小白入门和程序员提升，是AI大模型应用开发的面试必备指南。

---

面试资料较长，建议点赞收藏，以免遗失。如果对你有所帮助，记得点亮小红心告诉身边有需要的朋友。

1. 什么是LangChain？它的核心设计理念是什么？

答案：

LangChain是一个用于开发由大语言模型驱动的应用程序的框架。它的核心设计理念是通过“可组合性”将多个模块链接在一起，构建复杂而强大的应用。

• •

  核心价值：它简化了与大模型交互的流程，并提供了与外部数据源、工具（API、函数）和内存集成的标准化接口。

• •

  类比：就像React用于构建用户界面一样，LangChain是用于构建大模型应用界面的工具链。

▲LangChain如何作为连接LLM与外部世界（数据、工具）的桥梁和协调中心

2. 请解释LangChain中的6个核心概念：Models, Prompts, Indexes, Memory, Chains, Agents。

答案：

• Models (模型)： 与各种大语言模型交互的抽象层，如ChatGPT、LLaMA等。提供了LLM（文本进-文本出）和ChatModels（消息进-消息出）两种接口。

• Prompts (提示)： 管理、优化和模板化提示词的模块。包括PromptTemplate、FewShotPromptTemplate等，允许动态注入上下文和用户输入。

• Indexes (索引)： 用于处理外部数据的工具，主要用于文档的检索。常与Retrieval模块结合，构成RAG应用的核心。

• Memory (记忆)： 在链或代理的多次调用之间持久化状态（如对话历史）。有ConversationBufferMemory、ConversationSummaryMemory等多种形式。

• Chains (链)： 核心思想。将多个组件（或多个LLM调用）按预定顺序链接起来，完成一个特定任务。LCEL (LangChain Expression Language)是构建链的声明式方式。

• Agents (代理)： 更高级的“链”。由LLM作为大脑，动态决定执行一系列Tools（工具）的步骤和顺序，以完成用户复杂的请求（如“今天天气如何？然后用英文总结一下”）。

3. 什么是LCEL？它有什么优势？请写一个简单的例子。

答案：

LCEL（LangChain Expression Language）是一种声明式的、可组合的语法，用于轻松地构建和部署链。

• 优势：

• •

  统一接口： 所有LCEL对象都实现了Runnable接口，具有统一的invoke, batch, stream, astream方法。

• •

  自动流输出： 无需额外代码即可实现 token 的流式传输。

• •

  强大的并行： 使用batch可以并行处理多个输入。

• •

  可靠性： 内置故障重试、回退机制。

示例：

from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI
from langchain_core.output_parsers import StrOutputParser

# 使用 LCEL 声明一个链：Prompt -> Model -> OutputParser
chain = (
    ChatPromptTemplate.from_messages([("system", "你是一个助手"), ("user", "{input}")])
    | ChatOpenAI(model="gpt-3.5-turbo")
    | StrOutputParser()
)

# 调用链
result = chain.invoke({"input": "你好吗？"})
print(result)

4. 请详细解释Agent的执行流程（使用ReAct框架举例）。

答案：

Agent的执行是一个循环过程，其核心是 “思考 -> 行动 -> 观察”（ReAct框架）。

1. 用户输入： 用户提出一个复杂问题，例如“What was the high temperature in SF yesterday in Fahrenheit?”。

2. Agent初始化： 将问题、可用工具列表和ReAct指令模板组合成初始提示，发送给LLM。

3. 循环开始：

• •

  Step 1: Think - LLM根据当前信息思考下一步该做什么。它会输出一个Thought:，例如“I need to find the weather for yesterday in SF.”

• •

  Step 2: Act - LLM决定使用哪个工具（Action）以及输入是什么（Action Input）。例如Action: weather_search, Action Input: San Francisco, yesterday。

4. 工具执行： LangChain调用指定的weather_search工具，并获取结果（Observation:），例如“High: 65°F, Low: 52°F”。

5. 信息整合： 将Thought, Action, Observation加入到新的提示上下文中，再次发送给LLM。

6. 循环判断： LLM根据现有信息判断是否已经得到最终答案。如果已经得到，则输出Final Answer: 65°F；如果还需要更多信息，则回到Step 1继续循环。

▲ReAct工作流程

5. 什么是RAG？如何在LangChain中实现一个基本的RAG流程？

答案：

****RAG (Retrieval-Augmented Generation)： 检索增强生成。通过在生成答案前先从外部知识库中检索相关信息，并将其作为上下文提供给LLM，从而让LLM生成更准确、更符合事实的答案，并减少幻觉。

• 在LangChain中的实现步骤：

1. 加载文档 (Document Loading)： 使用TextLoader, WebBaseLoader等加载源文档。

2. 文档切分 (Splitting)： 使用RecursiveCharacterTextSplitter将长文档切分为小的、有重叠的块（Chunks）。

3. 向量化嵌入 (Embedding)： 使用OpenAIEmbeddings等模型将文本块转换为向量（Vector Embeddings）。

4. 存储索引 (Indexing)： 将向量存储在向量数据库（VectorStore）中，如Chroma, Pinecone，并创建索引。

5. 检索 (Retrieval)： 用户提问时，将问题也向量化，并从向量库中检索出最相关的k个文本块。

6. 生成 (Generation)： 将检索到的文本块作为上下文，与原始问题组合成一个增强的提示（Prompt），发送给LLM生成最终答案。

代码示例：

from langchain_community.document_loaders import WebBaseLoader
from langchain_text_splitters import RecursiveCharacterTextSplitter
from langchain_openai import OpenAIEmbeddings, ChatOpenAI
from langchain_chroma import Chroma
from langchain_core.prompts import ChatPromptTemplate
from langchain.chains import create_retrieval_chain

# 1. 加载 & 2. 切分
loader = WebBaseLoader("https://example.com/article")
docs = loader.load()
text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)
splits = text_splitter.split_documents(docs)

# 3. 嵌入 & 4. 存储
embeddings = OpenAIEmbeddings()
vectorstore = Chroma.from_documents(documents=splits, embedding=embeddings)
retriever = vectorstore.as_retriever()

# 5. & 6. 组成RAG链
llm = ChatOpenAI(model="gpt-3.5-turbo")
prompt = ChatPromptTemplate.from_template(
"""请根据以下上下文回答問題：
    {context}
    问题：{input}"""
)
rag_chain = create_retrieval_chain(retriever, llm, prompt)
result = rag_chain.invoke({"input": "文章的主要观点是什么？"})

6. LlamaIndex的核心价值是什么？它与LangChain的主要区别在哪？

答案：

核心价值： LlamaIndex是专门为LLM应用的数据层而设计的框架。它擅长高效地将私有或领域的特定数据与LLM连接起来，是构建RAG应用的专家和利器。它的口号是“为你的数据提供LLM接口”。

主要区别：

特性	LlamaIndex	LangChain
焦点	数据连接与检索 (RAG专家)	应用编排与代理 (通用型框架)
核心功能	数据索引、高级查询、结构化数据提取	链、代理、工具、内存管理
设计哲学	提供强大、开箱即用的数据管道	提供高度灵活、可组合的底层组件
关系	可以作为LangChain的一个组件（LlamaIndexRetriever）	包含并集成多种数据检索方式

简单说：如果你想快速、深度地构建一个以数据检索为核心的RAG应用，LlamaIndex更强大。如果你需要构建一个包含多种步骤（如调用API、逻辑判断、记忆）的复杂代理，LangChain更合适。 两者经常结合使用。

7. 解释LlamaIndex中的核心组件：Nodes, Indexes, Engines。

答案：

1. Nodes： 是Document对象的基本构建块。一个Node包含一段文本及其元数据。文档在被索引前会被解析和切分为多个Nodes。

2. Indexes： 是核心数据结构，用于组织Nodes以便LLM高效查询。最常见的索引是向量存储索引 (Vector Store Index)。

3. Engines： 为查询索引提供接口。不同类型的索引有不同的引擎。例如：

• •

  Query Engine： 是查询索引的高级抽象，接受自然语言查询并返回响应。

• •

  Chat Engine： 支持多轮、有状态的对话，内置了聊天历史管理。

8. LlamaIndex有哪些高级查询/检索模式？

答案：

除了简单的“问-答”检索，LlamaIndex提供了多种强大模式：

• •

  子查询 (Sub-Queries)： 将一个复杂问题分解为多个子问题，逐一查询后再综合答案。

• •

  多步查询 (Multi-Step Queries)： 类似于子查询，但步骤间可以传递和迭代信息。

• •

  假设查询 (Hypothetical Queries)： 给定一个查询，让LLM生成假设性的文档/答案，然后用这些假设文档去优化真正的检索。(HyDE)

• •

  基于时间的查询： 对具有时间戳的文档进行检索，优先返回最新的信息。

• •

  结构化数据提取： 从非结构化文本中提取出结构化的信息（如JSON格式）。

9. 在RAG中，文档切分（Chunking）为什么重要？有哪些策略？

答案：

重要性：

• •

  LLM有上下文窗口限制，必须将长文档切块。

• •

  切分的大小和质量直接影响检索精度。块太大，会包含无关信息；块太小，可能会丢失关键上下文。

• •

  合理的重叠（Overlap）可以避免句子或段落被割裂，保持语义完整性。

• 策略：

• •

  固定大小分块： 最简单，但可能割裂语义。

• •

  递归分块： 按字符递归地尝试不同分隔符（如\n\n, \n, ），直到达到理想块大小。这是最常用的策略。

• •

  语义分块： 使用嵌入模型计算句子相似度，在语义变化处进行切分。（更高级但更复杂）

• •

  专用分块： 对于代码（按函数/类）、Markdown（按标题）等特定格式有专用分块器。

10. 如何评估和提升RAG应用的效果？

答案：

• •

  评估指标：

• •

  检索精度： 检索到的上下文是否与问题相关？(Hit Rate, MRR@k, NDCG@k)

• •

  生成质量： 答案是否准确、相关、流畅？(可以通过LLM-as-a-judge或人工评估)

• •

  真实性： 答案是否减少了幻觉？

提升策略：

• •

  优化检索：

• •

  调整分块大小和重叠。

• •

  尝试不同的嵌入模型（如text-embedding-3-large）。

• •

  使用重排序（Re-Ranker）模型对检索结果进行精排，提升Top结果的准确性。

• •

  使用混合搜索（Hybrid Search），结合关键词（稀疏向量）和语义（稠密向量）检索。

• •

  优化生成：

• •

  优化提示工程，改进上下文的使用方式。

• •

  让模型在无法从上下文中找到答案时回答“我不知道”。

• •

  优化索引：

• •

  确保源数据质量高、干净。

• •

  为文档添加高质量的元数据（如标题、日期），便于元数据过滤查询。

11. 什么是ReAct框架？如何在LangChain中实现一个自定义Tool？

答案：

• •

  ReAct框架： Reason+ Act。它指导LLM在解决问题时进行推理（生成思考轨迹）并行动（调用工具）。详见第4题。

• •

  实现自定义Tool：

  需要定义一个继承BaseTool的类，并实现_run同步方法和/或_arun异步方法。

from langchain.tools import BaseTool
from typing import Optional

class CustomCalculatorTool(BaseTool):
    name = "calculator"
    description = "Useful for when you need to calculate a math problem"

    def _run(self, query: str) -> str:
"""同步执行工具的方法"""
        try:
# 这里应该是安全的计算逻辑，例如使用eval不安全，此处仅为示例
return str(eval(query))
        except:
return"计算错误"

    async def _arun(self, query: str) -> str:
"""异步执行工具的方法（可选）"""
        raise NotImplementedError("此工具不支持异步调用")

# 在Agent中初始化并使用
tools = [CustomCalculatorTool()]
agent = initialize_agent(tools, llm, agent="react-docstore", verbose=True)
agent.run("What is 15 raised to the power of 2?")

如何学习AI大模型 ？

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN，朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利： 👉👉CSDN大礼包：《最新AI大模型学习资源包》免费分享 👈👈

（👆👆👆安全链接，放心点击）

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

👉1.大模型入门学习思维导图👈

要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。

对于从来没有接触过AI大模型的同学，我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线，大家跟着这个大的方向学习准没问题。（全套教程文末领取哈）

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字，我也为大家准备了视频教程，每个章节都是当前板块的精华浓缩。

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。（全套教程文末领取哈）

👉4.大模型实战项目&项目源码👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战项目来学习。（全套教程文末领取哈）

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。（全套教程文末领取哈）

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道，我总结了大模型常考的面试题。（全套教程文末领取哈）

为什么分享这些资料?

只要你是真心想学AI大模型，我这份资料就可以无偿分享给你学习，我国在这方面的相关人才比较紧缺，大模型行业确实也需要更多的有志之士加入进来，我也真心希望帮助大家学好这门技术，如果日后有什么学习上的问题，欢迎找我交流，有技术上面的问题，我是很愿意去帮助大家的！

这些资料真的有用吗?

这份资料由我和鲁为民博士共同整理，鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位，在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利，同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN，朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利： 👉👉CSDN大礼包：《最新AI大模型学习资源包》免费分享 👈👈

（👆👆👆安全链接，放心点击）