这里我分几个方面来进行对比吧。首先是知识层面，这个应该是RAG使用者最关心的。RAG对知识的更新时间和经济成本更低。不需要训练，只需要更新数据库即可。RAG对知识的掌控力会更强，相比微调更不用担心学不到或者是遗忘的问题。但是如果模型强缺乏某个领域的知识，足量数据的微调才能让模型对该领域有基本的概念，如果不具备领域知识基础，RAG仍旧无法正确回答。然后是具体任务效果的问题。RAG相比微调能更容易获得

经典MLLM架构多模态大模型(MLLM)：架构篇一、Modality Encoder 简介多模态编码器将原始信息（如图像或音频）压缩为更紧凑的表示形式。一种常见的方法是使用与其他模态对齐的预训练编码器，而不是从头开始训练。本文主要介绍 Modality Encoder。包括。二、Visual Encoder**CLIP-VIT：**作为Vision-Language Model最流行的选择，提供了

最近RAG热度不减，微软开源了GraphRAG，很是火爆呀，本着学习的态度，我也部署使用了一下，无奈没有梯子，不能用openAI，于是想着能不能使用本机的模型，替换openAI的 llm和embedding模型，说干就干，整个过程真是曲折，踩坑不少，但最终 结果还是好的，终于完美部署到本机使用了，哈哈，下面来给大家分享一下，自己也记录一下，以免后边再使用时重复进坑。本人也搞了一个RAG项目，非常适

目前大模型非常的火，国内开始流行大模型应用，那么作为程序员对于大模型有什么要了解和学习的我们今天就来研究下。

总结了一些热门的大模微调项目的亮点以及数据集。 >>加入极市CV技术交流群，走在计算机视觉的最前沿本文主要总结本人最近跑过的大模型微调项目。相信大家这几个月都会不断新出的微调大模型项目刷屏，频率基本每天都有高星的项目诞生，部分还宣称自己达到GPT的百分之多少，一方面弄得大家过度乐观，一方面弄得大家焦虑浮躁。面对这种情况，我的建议是「多动手」。把这些项目 clone 下来，跑跑代码，把项目用到的数据

提示词总结的核心思想是在保持相似的语义信息的前提下，将原有提示词浓缩为更短的总结。这些技术还可以作为提示词的在线压缩方法。与前面提到的保留未裁剪标记的提示词裁剪技术不同，这一行方法将整个提示符转换为总结。RECOMP[34]引入了一个抽象压缩器（Abstractive Compressor），其将输入问题和检索到的文档作为输入，生成一个简洁的摘要。具体来说，它从大规模的大模型中提取轻量级压缩器来进

本文全面回顾了当前最先进的RAG技术，包括朴素RAG、进阶RAG和模块RAG等范式，并置于LLM背景下。文章讨论了RAG过程中的核心技术，如“检索”、“生成”和“增强”，并深入探讨了它们的协同作用。此外，文章还构建了一个全面的评估框架，概述了评估目标和度量标准，并进行了比较分析，阐明了RAG的优缺点。最后，文章预测了RAG的未来发展方向，强调了解决当前挑战的潜在增强、多模式设置的扩展以及其生态系统

GPT-4是当前最先进的大型语言模型之一，由OpenAI开发。它具有复杂的推理理解能力和高级编码功能，使其在自然语言处理任务中表现卓越，包括但不限于文本生成、摘要、翻译和对话系统。Google的Pathways Language Model (PaLM) 2代表了其语言模型的最新进展，展示了在多任务学习和多模态任务中的强大能力。PaLM 2通过改进的训练技术和算法优化，提高了模型的效率和灵活性。

根据scaling law，模型越大，高质量数据越多，效果越好。但还有一个很直观的情况，随着预训练样本的质量不断提升，训练手段的优化。新的模型，往往效果能轻松反超参数量两倍于它的模型。例如，最新出的minicpm，微信内部评测效果也是非常棒的。跟规模相对接近的2b、7b模型比，得分比qwen2b高，和qwen7b比有的高有的低。这个是minicpm的详细技术文档：这说明，现有参数量情况下，哪怕是2

大模型通过深度神经网络、激活函数、损失函数、优化算法、正则化和模型结构等技术原理，从大量数据中学习到复杂的特征和表示。结合预训练与微调、模型压缩与加速、解释性与可解释性、隐私与安全等技术，我们可以更好地利用大模型解决实际问题，开发高性能的应用。在未来，随着深度学习技术的不断发展，我们有理由相信大模型将在各个领域取得更多的突破。对于普通用户的我们来说，更多还是要学习如何使用大模型的各种应用，提升我们