一、简介

文章探讨了大模型应用从简单实现到优质产品的巨大差距。作者通过项目经验指出，功能实现虽快，但优化使其稳定可靠却需长期努力。核心挑战在于模型稳定性问题，特别是在文档处理和数据召回环节。文章详细分析了RAG技术的应用难点，探讨了通过文档优化、问题重写和Agent智能体技术提升系统性能的方法，强调了高质量大模型应用需要深入理解技术细节和持续优化。

---

“ 把大模型应用做出来和把模型应用做好是两回事；做出来可能只需要一两个月，而做好可能需要一两年甚至更久。”

最近手头上的一个大模型应用项目的基本功能都做完了，虽然从功能上来看都做完了；但从测试结果上来看，根本没有达到想要的效果，因此后面的主要任务是怎么优化系统；但等真的尝试去优化系统的时候才发现，这个系统到处都是问题。

所以说，用大模型做应用很简单，但想把应用做好就很难了。

二、怎么把大模型应用做好

大模型应用从本质上来说，就是利用大模型的理解和生成能力，取代人类在系统中扮演的角色(比如说做设计，写代码)，利用大模型的决策能力去实现系统自动化运行。

但这里有个潜在的问题，那就是模型的稳定性，由于模型本身的特性使得大模型无法稳定的理解问题并输出；所以就导致系统会出现各种各样的问题，特别是在对大模型稳定性要求比较高的情况下。

首先以理解能力来说，其比较经典的应用场景就是RAG；而RAG的第一步就是文档处理，怎么才能准确召回与问题相关的数据；而对文档处理的好坏，直接影响到召回数据的质量。

而这个文档出来就是基于大模型来实现的(embedding-嵌入模型)，特别是复杂文档，很难保证文档的语义相关性。

因此，关于文档处理我们就要想好多种办法，而原则就是提升文档的语义相关性；比如说文档怎么拆分(文档拆分的长度，关联性，合理性都会直接影响到数据的召回)，怎么组织数据；比如说把excel转换成markdown格式，word，pdf等对里面的图片，表格进行特殊处理等。

还有就是，可以通过让模型对拆分的文档做总结提炼，亦或者提取关键词标签；这样就可以相对提高数据召回的准确性。

但受限于当前的技术手段，不论怎么搞都很难达到我们的要求；所以，既然在左侧的文档处理方面已经黔驴技穷了；那么就只能想办法在右侧数据召回方面多下点功夫了。

三、那在数据召回方面应该怎么做呢？

首先可以对用户的问题进行优化，因为我们无法控制用户的输入，因此用户输入可能存在很多问题，比如说错别字，语句不通顺，缺词少句等；而我们就可以让大模型先理解用户的问题，然后对用户的问题进行优化，并根据用户问题提出几个相似的新问题，这样就可以间接提升数据的召回广度。

当然，这种方式只能部分提升数据的召回质量，但解决不了根本问题；特别是在一些需要动态数据的场景下，需要根据问题从多个维度召回数据。但受限于RAG的流程是固定的，因此就没有办法了。

而这时，我们可能需要使用Agent智能体技术，通过配置工具的方式，让大模型能够根据问题进行自主决策，然后调用不同的工具来完成动态数据的获取。

但使用智能体需要大模型在格式化数据输出方面的能力要求较高，因为其本质上就是让大模型扮演程序员的角色，然后根据工具的要求生成调用参数，并获取结果进行处理。

是让大模型扮演程序员的角色，然后根据工具的要求生成调用参数，并获取结果进行处理。

总之，在大模型应用的道路上，想把应用功能做出来很简单，但能把应用做好却非常不简单。

四、AI大模型学习和面试资源

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习和面试资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓