家人们，别再卷大模型了，真正傻白甜的赛道是——**让AI替你打工，还给你交租**！

周末，终于刷完了，OpenAI的《How People Use ChatGPT》。很多数据，比较违背大多数人惯性思维，今天从不同的角度，给大家分享一下。

一、什么是 RAG？**--------------**RAG是Retrieval-Augmented Generation 的缩写，即检索增强生成的意思。

Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。（全套教程文末领取哈）

最近OpenAI连续12天进行12场直播，发布新品。其中第八天介绍了ChatGPT搜索功能项全体用户开放。搜索增强大模型值得OpenAI安排一天专门介绍，和o1、ChatGPT Vision等功能同等待遇，说明其意义重大。ChatGPT的外部搜索能力，使其不仅限于预训练的数据，而是可以实时访问和检索互联网的最新信息。这就是典型的知识增强大模型应用，通过外部知识的增强能够扩展 大模型 的能力，让其在

综上所述，LLM压缩技术在模型性能和资源占用之间找到了平衡点，为AI技术的广泛应用铺平了道路。通过深入分析剪枝、知识蒸馏和量化等关键技术，并结合实际应用案例，我们可以看到压缩技术在未来有着广阔的应用前景。随着技术的不断发展和完善，我们有理由相信，LLM压缩技术将为自然语言处理及其他AI领域带来更多的突破和创新。

过去一年多来，大语言模型（LLM）从 GPT-3.5、GPT-4 到 Llama等开源模型,一直备受关注。然而，近期一些迹象表明，小语言模型（SLM）正逐渐获得越来越多的重视，微软、GOOGLE等AI领域的大佬们纷纷开始下注小语言模型。出现这一趋势的原因何在，将给运营商带来哪些启示？LLM （大语言模型）的参数数量可以达到数千亿甚至数万亿。而SLM(小语言模型) 通常具有数亿或数十亿个参数，SLM

OpenBMB 推出的 MiniCPM3-4B 是开发高效、高性能语言模型的重要里程碑。凭借其先进的功能集，包括对功能调用、代码解释和扩展上下文处理的支持，MiniCPM3-4B 为研究和实际应用提供了一个多功能的工具。其在多个基准测试中的优异表现，加上开放的许可模式，确保了它将在从学术界到工业界的各个领域得到广泛采用。

相信各位在使用GPT之类大语言模型也会有一种感觉，虽然它博览群书，但在某些方面也始终存在短板，比如编造事实、计算不准确、数据过时等等。为了应对这些问题，可以借助一些外部工具或数据把AI武装起来。实现这一思路的框架包括RAG检索增强生成、PAL程序辅助语言模型、ReAct推理行动结合。这些词看起来是不是令人头大？下面我们先来了解一下。AI大语言模型所拥有的知识受训练数据的影响，如果训练数据对某个领域

组合优化问题通常依赖启发式算法来生成高效解决方案。然而，手动设计启发式方法既耗费资源又受限于设计者的专业知识。近期人工智能的进展，特别是大语言模型(LLM)的发展，展示了通过进化框架自动生成启发式方法的潜力。现有研究主要关注旅行商问题和在线装箱问题等经典组合优化问题的构造性启发式方法设计。本研究探讨了LLM是否能为小众的、尚未广泛研究的优化问题有效生成启发式方法，并以单位负载预编组问题(UPMP)