在当今快速发展的数据分析领域，智能分析平台正经历从传统 BI 到敏捷分析，再到智能分析的转变。随着移动互联网的兴起和大语言模型的出现，数据分析变得愈加普及，用户可以通过自然语言与系统进行互动，获取所需数据。然而，即使在敏捷分析阶段，仍然存在一定的学习成本。大语言模型的引入为数据分析带来了新的机遇，它不仅提升了语言理解和生成能力，还使得逻辑推理与工具使用变得更加高效。通过对用户自然语言指令的理解和转

大模型的本质是机器学习，机器学习的本质就是一种数学模型。我们经常能听到这样的说法，某某大模型有多少参数，某某大模型参数量又提升了，这里所说的参数到底是什么？我们知道大模型是训练出来的，那么哪些训练数据都跑哪去了，大模型训练的过程中都干了什么？为什么大模型需要训练？01大模型的参数到底是什么？我们知道大模型的发展从刚开始的几百个参数，到现在的上千亿个参数，比如GPT-3就有一千七百多亿个参数。

ChatGPT面世以来，各种大模型相继出现。那么大模型到底是如何训练的呢，在这篇文章中，我们将尽可能详细地梳理一个完整的 LLM 训练流程，包括模型预训练（Pretrain）、Tokenizer 训练、指令微调（Instruction Tuning）等环节。

了解小编的读者应该知道，我在从事了一段数据分析师的工作之后，目前岗位的title已经换成了算法工程师。虽然两个岗位存在很大交集和共通之处，但无论是工作思维还是所需技术栈方面，也都存在很大差异。前期，一名读者在后台留言问我数据分析师转岗算法工程师的经历，今天本文就结合个人实际做以总结。PS：每个人对岗位的理解往往不同，视经历和认知的偏差，本文难免有其局限性和不同的观点，所以仅代表个人观点，权当参考。

本文聚焦于介绍CNN、RNN、GAN、Transformers等神经网络架构，涵盖图像与自然语言处理领域，掌握这些结构将助力我们在具体任务中实现更精准的决策。​。

过去，我们使用翻译接口时，往往都是使用百度等的接口，每天有一定量的免费额度。今天为大家介绍一个可以进行翻译的模型，具备英译中、中译英的能力。并且在这个过程中，向大家介绍一个如何在本地部署模型。在之前的”五天入门RAG“中，我们介绍过如何线上运行，但这是需要网络条件的，当你不具备时，可以在本地安装使用。这个模型就是Helsinki-NLP/opus-mt-zh-en和Helsinki-NLP/opu

你可能已经与大型语言模型（LLMs）互动过，比如OpenAI的ChatGPT背后的模型，它们能够回答问题、总结文档、编写代码等，功能非常出色。虽然LLMs本身就很了不起，但如果有一点编程知识，你可以利用像LangChain这样的库来创建自己的LLM驱动的聊天机器人，几乎可以做任何事情。在企业环境中，创建LLM驱动的聊天机器人最受欢迎的方法之一是通过检索增强生成（RAG）。

2023年上半年，广泛使用API（如OpenAI）来创建基于大型语言模型（LLM）的基础设施，极大地塑造了软件领域。和在这一趋势中发挥了重要的作用。2023年下半年LLMOps的运维工作流程中微调（或指令调整）模型门槛降低基本成了业内标准流程，这一趋势的发展主要是由以下几个原因，1.微调的成本急剧降低，配合PEFT等方法，可以在单张T4卡上对Llama 2微调，这在以前是难以想象的；2.处理公司内

在之前华为全联接大会2024上，了解到openMind应用使能套件在AI生态社区中发挥的技术能力。此次Qwen模型的微调经验，也让人看到了openMind在AI模型调优和推理能力。openMind是AI开发者的强有力的助手，它让微调过程变得更加高效和直观。希望每一位开发者都来尝试它，一起交流经验，更好地提升它的能力。​。

本教程的附带代码在我的上一篇博文是关于如何在企业级实现知识图谱 (KG) 和大型语言模型 (LLM)。在那篇文章中，我介绍了 KG 和 LLM 目前交互的两种方式：LLM 作为构建 KG 的工具；以及 KG 作为 LLM 或 GenAI 应用程序的输入。下图显示了集成的两个方面以及人们将它们结合使用的不同方式。图片来自作者在这篇文章中，我将重点介绍 KG 和 LLM 结合使用的一种流行方式：使用知