目录深度学习框架介绍1. 深度学习框架①深度学习框架。

(1) LLM训练数据介绍构建一个LLM包含预训练微调等多个过程：①其中预训练过程需要的数据量最大，涉及网页数据、开源数据集等，数据质量参差不齐，需要进行大量数据预处理②微调过程需要的数据量相对较小，但质量要求较高，数据预处理的同时需要通过一定方法生成指令数据预训练数据①公开数据网页数据：这类数据的获取最为方便，各个数据相关的公司比如百度、谷歌等每天都会爬取大量的网页存储起来。其特点是量级非常大。

目录人工智能概述1. 人工智能2. 人工智能的提出3. 人工智能的四要素4. 机器学习5. 深度学习6. 三大主义学派7. 人工智能发展简史8. 人工智能的分类9. 智能机器的分类①人工智能②人工智能的提出③人工智能的四要素④机器学习⑤深度学习⑥三大主义学派⑦人工智能发展简史⑧人工智能的分类⑨智能机器的分类。

（1）Kubernetes框架结构①Kuber API Server：负责接收所有的用户和节点请求的，也就是k8s的对外连接和信息获取都是需要通过API去实现的，API接收请求也满足了基于容器的云原生框架的设计理念②Kuber Etcd：K8s的核心数据库，所有关于k8s的相关信息和配置等内容，都会被存储在etcd中③Kuber Scheduler：K8s资源调度器，负责分配相关的资源使用的，在用

（1）HCS网络流量概述：传统数据中心的网络一般来说都是以三层架构作为主基准的，比如数通中经常基础性使用到的接入层汇聚层核心层，三层网络架构，但是这种架构在云上使用实际上是比较有难度的，因为传统架构在传输云流量的时候，延迟比较高，会造成用户体验差，另外云内部本身就有虚拟网络架构，通过OpenSwitchOVSSDC等方式进行实现，所以就会造成云架构内部的网络接入物理网络时，配置比较困难，对接也比较

目录HiAI平台介绍1. 技能全场景智慧生活极致体验2. AI赋能分布式全场景3. HiAI Foundation（针对模型）4. HiAI Engine（针对功能）5. HiAI Service（推广APP）6. HiAI移动计算平台架构​7. HiAI赋予APP什么价值①使能全场景智慧生活极值体验②AI赋能分布式全场景⑥HiAI移动计算平台架构⑦HiAI赋予APP什么价值。

用户完全不需要购买任何硬件，只买云服务的授权，场地、设备、安装部署、维护全都是华为提供，用户只需要买授权就可以了，本质上还是独立的IDC。目前已有6台服务器，需要规划安装HCS 8.1.1，其中4台为4网口，2台为6网口，请合理安排规划，做好HCSD的相关规划设计，并且上传参数成功。模式3：软硬件全买，机房自建，永久授权，一般面向私有云要求比较高的场景，或者绝密场景，比如政府，军队，事业单位等等。

人工智能的四大要素：数据，算法，场景，算力训练一个优秀的模型需要海量算力，AI芯片应运而生AI芯片：也称AI加速器，用于专门处理人工智能应用中大量计算任务的功能模块，其中主要是矩阵运算。分为训练芯片(性能更强)和推理芯片。

各种通用数据集的API，如MNIST、CIFAR-10、CIFAR-100、VOC、COCO、ImageNet、CelebA、CLUE等，也支持加载业界标准格式的数据集，包括。提供一些方法将不同数据集转换为MindRecord格式，也提供一些操作MindRecord数据文件的方法如读取、写入、检索等。运行时需指定运行时的具体环境参数，包括计算图的模式、运行时的设备、内存空间小大等，同时也可以使用。

在大规模模型的分布式训练场景中，用户倾向于选择较大的Batch尺寸以缩短训练时长，然而过大的Batch尺寸也可能导致Loss曲线呈现上升趋势。Ascend C，面向算子开发场景的编程语言，原生支持C和C++标准规范，最大化匹配用户开发习惯；：参数规模也不是越大越好，Hoffmann等人在Chinchilla系列模型中的研究表明，给定算力、语料的token数与模型的参数个数相当时，模型的表现相对更好