AI 大模型技术经过2023年的狂飙，2024年必将迎来应用的落地，对 IT 同学来讲，这里蕴含着大量的技术机会，越来越多的企业开始招聘 AI 大模型岗位。本文梳理了 AI 大模型开发技术的面试之道，从等不同知识维度，试图找到一个共同的面试速成模式，希望对 IT 同学有所助益。

随着神经网络模型的复杂性和规模不断增加，模型对存储空间和计算资源的需求越来越多，使得部署和运行成本显著上升。模型压缩的目标是通过减少模型的存储空间、减少计算量或提高模型的计算效率，从而在保持模型性能的同时，降低模型部署的成本。模型压缩的目标可以概括为以下几点：1）减少模型显存占用：通过压缩模型参数或使用更高效的表示方式，可以显著减少模型所需的存储空间，从而降低模型在部署和执行过程中的存储成本。2）

看了那么多chatGPT的文章，作为一名不精通算法的开发，也对大模型心痒痒。但想要部署自己的大模型，且不说没有算法相关的经验了，光是大模型占用的算力资源，手头的个人电脑其实也很难独立部署。就算使用算法压缩后的大模型，部署在个人电脑上，还要忍受极端缓慢的计算速度以及与chatGPT相差甚远的模型效果。有什么办法能够部署属于我们自己的大模型呢？有编程基础：作为一个合格的程序员，这应该是必备素质。

从公式知，输入是正的，则直接输出该值；如果输入是负的，则输出0。ReLU因其简单性和效率在深度学习中非常流行。它有助于解决梯度消失问题，加速了神经网络的收敛，并且计算简单。

AI大模型的落地关键，是解决技术与应用场景间的鸿沟。这涉及如何使大模型更好地适应特定的工业应用场景，以及如何克服不同模型和算力平台特性的差异带来的现实挑战。另外，在高精度要求行业中，应用场景适应性问题难度更大。

‍‍‍‍‍‍‍从大的方向上来说，大模型从技术到应用，主要涉及到以上几个大的模块；而每个模块又涉及到大量的技术和细节。比如打造不同任务的神经网络模型，强化学习，迁移学习，知识蒸馏，分布式训练与存储等；以及RAG使用的向量检索，向量数据库，语义理解等，还有复杂任务的思维链(CoT)，模型训练使用的LoRa等微调方法。还有多模态模型中的知识对齐，数据融合等复杂技术。‍‍‍因此，大模型技术到应用到学习是一

AI Agent，经常被翻译为：智能体或代理。一句话总结，AI Agent就是一个有着聪明大脑而且能够感知外部环境并采取行动的智能系统。我们可以把它想象成一个能思考和行动的人，而大型语言模型（LLM）就是这个人的“大脑”。通过这个大脑，再加上一些能够感知外部世界和执行任务的部件，AI Agent就变成了一个有“智慧”的机器人。要让AI Agent充分利用它的“大脑”和各种组件，需要一种协调机制。R

通过以上各层次的详细解析，我们可以看到，人工智能中台不仅是一个技术平台，更是企业未来发展的战略支撑点。每一层次都为企业提供了不同的能力，从底层的硬件支持，到上层的智能应用，层层递进，构建了一个完整的AI生态系统。随着人工智能技术的不断发展，人工智能中台架构将继续演进，为更多行业带来新的增长机遇。企业如果能够充分利用这一中台架构，将在未来的竞争中占据有利位置，推动业务的智能化转型，迎接数字化时代的到

大模型Agent指的是基于大规模语言模型（Large Language Model, LLM）的自主智能体。这种智能体能够通过理解和生成自然语言来进行复杂的决策和任务执行，具备一定的自主性和交互能力。大模型Agent能够处理和理解大量的文本信息，通过预训练和任务适应，实现对特定领域问题的解答和操作。基于大模型训练Agent主要涉及到模型微调（Fine-tuning）、指令微调（Instructio

例如，用户在首问中没有提供全部的必填槽位， Agent 将发起槽位的追问，对于 Agent 的追问，用户可能认真的回答槽位信息，也有可能发起闲聊，还有可能改变了主意，问了一个新的问题，不同的转移路径我们可以设置不同的概率，例如上面的转移路径我们根据经验分为设置概率为 [0.8, 0.1, 0.1]。这里我们构造了 5 个任务，分别是根据实时汇率转换货币金额，了解某个地区的习俗和文化特点，根据用户的