点选开发机，自拟一个开发机名称，选择镜像。我们要运行参数量为7B的InternLM2.5，由查询InternLM2.5-7b-chat的config.json文件可知，bfloat16所以我们需要大于14GB的显存，选择(24GB显存容量)，后选择，等状态栏变成运行中，点击，我们即可开始部署。在终端中，让我们输入以下指令，来创建一个名为lmdeploy的conda环境，python版本为3.10，

大语言模型（英文：Large Language Model，缩写LLM），也称大型语言模型，是一种人工智能模型，旨在理解和生成人类语言。通常，大语言模型 (LLM) 指包含数十亿Billion或更多）参数的语言模型，这些模型在大量的文本数据上进行训练，例如国外的有GPT-3 、GPT-4、PaLM 、Galactica 和 LLaMA 等，国内的有ChatGLM、文心一言、通义千问、讯飞星火等。大

此部分可补充说明理解baseline所必须知道的知识点: 检索增强生成。它是一种将外部知识库的检索能力与大语言模型的生成能力相结合的技术框架。其核心思想是，当LLM需要回答问题时，不直接让它凭空回答，而是先从一个庞大的知识库（如我们处理好的PDF内容）中检索出最相关的几段信息，然后将这些信息连同问题一起交给LLM，让它“参考”这些材料来生成答案。这极大地提高了答案的准确性、时效性，并解决了LLM的

多头自注意力（Multi-Head Self-Attention）机制：这是Transformer的核心，允许模型在不同位置上同时关注输入序列的不同部分，以捕捉序列内部的依赖关系。编码器-解码器注意力（Encoder-Decoder Attention）：在解码器的某些层中，除了自注意力层，还有一个注意力层专门用于关注编码器的输出，以获取输入序列的全局信息。前馈神经网络（Feed-Forward

TBD。