RAG（Retrieval-Augmented Generation，检索增强生成）是一种将信息检索与文本生成相结合的 AI 技术。它通过检索模块从外部知识库中检索与问题相关的文档或信息，然后利用生成模块处理这些信息，生成更专业的文本。RAG广泛应用于问答系统、对话系统、个性化推荐等领域。

中英文语料库分词、预处理多进程处理大型中文语料库的jieba分词算法以提高效率构造语料库词典创建训练数据集Dataset和Dataloader

MindNLP是一个基于MindSpore深度学习框架开发的开源自然语言处理（NLP）库。它为解决各种NLP任务提供了一个强大的平台，包含了许多常用的NLP方法和模型。MindNLP 官网：​​Github仓库地址： ​​官网上的Tutorials中的示例和代码的版本比较旧，存在部分因错误而不可运行的代码；这里提供中文文档的基础部分，包含各示例代码及其运行结果，部分内容在原官方英文教程基础上加入了

Transformer学习与基础实验系列文章的第4篇，基于自定义实现的Transformer模型的英汉翻译任务训练、推理等过程记录和代码理解，以及所有源码、模型结构图绘制文件的原件提供