Transformers 库是一个开源的NPL库，提供了许多预训练的模型，如BERT、GPT等，以及用于文本分类、序列标注、文本生成等任务的工具和API。它使用了自注意力（self-attention）机制和编码器-解码器（encoder-decoder）结构，基于三个最流行的深度学习库PyTorch、TensorFlow 和 JAX构建，在许多NLP任务上取得了很好的性能。待补充。