以上就是这段时间我们在研究本地部署的LLM大模型的体验，NVIDIA Chat RTX目前虽然比最早的体验版好用了不少，但依然处于很早期的状态，要自行添加指定模型比较麻烦，而且不能联系上下文这点体验并不好，不过想装来玩玩还是可以的，毕竟它的安装和使用都很简单，内置的小模型对显存容量需求也不高，8GB以上的显卡就可以跑。Ollama搭配Page Assist这组合胜在够简单，比较适合刚接触这方面的新

顾名思义，RAG的全拼是Retrieval-augmented Generation，检索增强生成，R——代表的是Retrieval-检索器，G代表的是Generation-生成器，所以RAG主要有两大块组成，检索与生成。

在 AI 人工智能时代，智能体将会是未来最主流的大模型应用方式？人人都有机会通过智能体，解锁成为【超级个体】。在人工智能的快速发展中，LLM、Agent、知识库、向量数据库、RAG（检索增强生成）、知识图谱以及AGI（人工通用智能）等概念和技术不断涌现，其共同推动着人工智能技术的进步和应用场景的拓展！从智能体定义到实际应用，在多次体验各个智能体系之旅的前提下，简单谈谈一点 IDea！本文将分别介绍

目前，众多大模型可以供人免费使用，但也有一些问题：它们不仅多数是闭源的，部分还涉及收费机制，或者在背后收集用户数据。为了保护我们的数据和隐私，完全可以采用一些工具，在个人笔记本电脑上实现完全离线且独立运行大语言模型（LLM）。下文介绍了一款名为LM Studio的工具，它支持用户以离线方式仅利用CPU运行大模型。即便没有配备显卡，您同样可以在自己的设备上畅享运行体验。首先，访问https://lm

1. 深度网页解析能力RAGFlow可解析PDF、扫描件、表格等复杂格式，自动识别布局并提取结构化数据，弥补Dify原生解析短板。\2. 检索质量飞跃通过多路召回、重排序优化策略，RAGFlow显著提升答案准确性。例如，扫描版PDF表格的解析完整度提升40%以上。\3. 混合检索模式Dify支持向量检索、全文检索、混合检索（推荐），结合RAGFlow的API调用，实现“非结构化数据+语义匹配”的双

传统的深度学习模型大多是单模态的，例如只处理图像数据的卷积神经网络（CNN）或只处理文本数据的循环神经网络（RNN）。然而，现实世界的信息往往是多模态的，例如一张图片可以包含物体、场景、文字等多种信息，一段视频则包含图像、声音、字幕等多种模态的数据。为了更好地理解和处理现实世界的信息，多模态学习应运而生。根据文本描述检索图像，或根据图像检索相关文本。为图像或视频生成自然语言描述。根据图像内容回答自

本研究成果推出了 RepoAgent 开源框架，为项目级别的代码库生成细粒度的代码文档，并实现了代码文档构建和更新维护的自动化。RepoAgent 有望大幅减轻软件开发人员的文档维护负担，提高代码库的可维护性和可理解性，带来新的软件开发流程范式。​。

向量数据库是RAG技术的重要底座之一关于RAG和向量数据库的基础知识这里就不再做介绍了，不懂的可以翻看之前的文章。今天的主要目的是使用milvus向量数据库来实现RAG检索增强，后面会附上代码。使用milvus实现RAGRAG的核心在于检索，而与传统字符匹配和分词检索方式不同的是RAG主要是基于语义检索的方式，也就是向量检索。而一个好的向量数据库就成为RAG技术环节中必不可少的一环。备注：RAG并

语言模型的对齐在20年就有相关工作，22年谷歌提出基于指令微调的Flan，Openai则提出InstructGPT，ChatGPT，大模型的对齐工作受到广泛的关注。目前，大模型的对齐工作中，RLHF算法是能够达到最优的结果，RLHF通过人类反馈和PPO算法，能够有效的将模型和人类偏好进行对齐。但是RLHF也存在难以训练，训练显存占用较大的缺点。基于此，相关研究工作(RRHF, DPO)等也逐渐被提

本教程将基于Meta AI开源的Llama-3 8B模型，介绍如何使用PAI平台及LLaMA Factory训练框架完成模型的中文化与角色扮演微调和评估。