BERT编码方式是依赖于huggingface官网所提供的预训练模型进行的，在使用时可以根据文字的具体类型和需要，在官网上下载，并使用pytorch调用模型对数据编码。在下面的示例中，我们首先加载了预训练的 BERT 模型和分词器（one-hot是一种词嵌入方式，编码方式较为较为简单，就是将每一个词或字都表示为一个向量，仅在该词或字所在的位置设置为1，其余位置均为零。在进行自然语言处理时，对文字进

RNN又称循环神经网络，是一种在序列数据处理中广泛使用的神经网络模型。具有循环连接，允许信息在网络中持续传递。能够处理任意长度的输入序列，并且在处理序列时共享参数，这也是该模型在自然语言处理、语音识别、时间序列预测等任务中取得出色表现的主要原因。