
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
RAG(检索增强生成)技术通过整合大语言模型与外部知识库,解决了传统模型的三大局限:知识滞后性、幻觉问题和无法访问私有数据。其工作流程分为数据索引准备和运行时检索生成两阶段。前者将原始数据分割、向量化并存储到向量数据库;后者在用户提问时,先检索相关文本块,再结合问题生成精准回答。RAG的优势在于提高答案准确性、可追溯性,并显著减少错误信息,使AI回答更接近专家咨询体验。
本文介绍了LangChain中的四种记忆模块(Memory)用于增强语言模型的对话连续性:1. ConversationBufferMemory:完整记录所有对话历史,适合需要完整上下文的场景。2. ConversationBufferWindowMemory:仅保留最近N轮对话(K值可调),通过滑动窗口控制记忆量。3. ConversationTokenBufferMemory:基于Token数
本文介绍了如何利用大语言模型构建基于文档的问答系统。通过整合外部文档数据,系统可以生成更专业和个性化的回答。文章详细说明了实现步骤:1) 初始化语言模型;2) 使用CSVLoader加载文档数据;3) 选择HuggingFaceEmbeddings进行文本向量化;4) 创建内存向量存储并执行相似性搜索;5) 构造提示词获取回答;6) 使用RetrievalQA链实现端到端问答。该方法有效解决了大语
本文介绍了如何利用LangChain框架评估语言模型(LLM)在文档问答任务中的表现。主要内容包括:1)构建基于文档的问答应用,使用CSVLoader加载数据;2)通过手动和自动(QAGenerateChain)两种方式创建测试问答集;3)详细展示了评估流程,包括使用QAEvalChain自动评分,并分析了评估结果。评估结果表明,该方法能有效检测出LLM在文档问答任务中的准确性和局限性,为模型优化
百度千帆v2版本推理接口兼容OpenAI和DeepSeek规范,开发者可使用OpenAI SDK调用千帆平台服务。主要内容包括:1) 安装最新OpenAI SDK并配置API Key;2) 通过指定模型名称(如deepseek-r1-distill-qwen-32b)和base_url访问千帆服务;3) 提供Python调用示例,包括参数设置和响应处理;4) 说明操作流程:需先在百度智能云创建AP
本文介绍了大语言模型(LLM)的核心运作机制。首先解释了条件概率的基础概念,即LLM根据上下文预测下一个词的概率分布。其次说明LLM通过海量文本训练学习高维词序列概率分布,形成预测能力。接着重点讨论了温度(Temperature)参数的妙用,它通过调节softmax函数控制输出多样性,避免机械重复。最后用表格总结LLM三大核心机制:条件概率是预测基础,权重矩阵构成预测核心,温度参数调节输出风格。全
本篇文章主要讲的是@Bean注解,这个注解属于用于注册Bean的注解。下面这段话部分摘自Spring中为什么要有@Bean注解?Spring的@Bean注解用于告诉方法,产生一个Bean对象,然后这个Bean对象交给Spring管理。产生这个Bean对象的方法Spring只会调用一次,随后这个Spring将会将这个Bean对象放在自己的IOC容器中。@Bean明确地指示了一种方法,什么方法呢?产生

本文介绍了LangChain中的链(Chains)概念及其应用。链通过将大语言模型(LLM)与提示(Prompt)结合,实现对文本或数据的系列操作。内容包括:1)大语言模型链(LLMChain)的基础用法,虽已弃用但可通过管道符"|"替代;2)简单顺序链的实现,通过串联多个链逐步处理输入;3)多输入/输出顺序链使用RunnableSequence构建复杂流程;4)路由链(Rou
本文介绍了大语言模型(LLM)的Prompt工程技巧,主要包括:1.区分基础LLM和指令微调LLM,后者通过专门训练能更好地遵循指令;2.Prompt设计的两个核心原则:编写清晰具体的指令(使用分隔符、结构化输出、条件检查等)和给模型思考时间(分步骤执行、自主思考解法);3.如何通过预训练+微调+强化学习将基础LLM转化为指令微调LLM。文章强调合理设计Prompt能显著提升大模型的任务表现。
百度千帆v2版本推理接口兼容OpenAI和DeepSeek规范,开发者可使用OpenAI SDK调用千帆平台服务。主要内容包括:1) 安装最新OpenAI SDK并配置API Key;2) 通过指定模型名称(如deepseek-r1-distill-qwen-32b)和base_url访问千帆服务;3) 提供Python调用示例,包括参数设置和响应处理;4) 说明操作流程:需先在百度智能云创建AP







