这里是用于处理图片的旋转等操作生成M要用 M= np.float32( [ ] ),而不是 M = np.array( [ ] )M = np.array([[1,0,100],[0,1,200]])### 错误print(img[0+100, 0])cont = cv2.warpAffine(img, M, (400, 600))plt.imshow(cont)plt.show()...

1.Encoder的输入：enc_inputs其一：用来生成Encoder自注意的mask，其二：在多头自注意中计算Q、K、V矩阵2.decoder的输入：dec_inputs,enc_inputs,enc_outputsdec_inputs：其一，用来生成decoder自注意的mask矩阵。其二，计算decoder的多头自注意层的Q、K、V矩阵。enc_inputs：用来生成decoder中编码

阅读目录1 模型的思想2 模型的架构3 Embedding3.1 Word Embedding3.2 Positional Embedding4 Encoder4.1 Muti-Head-Attention4.1.1 Self-Attention4.1.2 Add & Norm4.2 Feed-Forward Network5 Decoder5.1 Mask-Multi-Head-Atte

转载：「自然语言处理（NLP）」你必须要知道的八个国际会议！引言    国际学术会议是一种学术影响度较高的会议，它具有国际性、权威性、高知识性、高互动性等特点，其参会者一般为科学家、学者、教师等。具有高学历的研究人员把它作为一种科研学术的交流方式，够为科研成果的发表和对科研学术论文的研讨提供一种途径 ；同时也能促进科研学术理论水平的提高。针对自然语言处理方向比较重要的几个会议有：ACL、EMNLP

python安装annoydebug解决ERROR: Command errored out with exit status 1:ERROR: annoy-1.17.0-cp39-cp39-win_amd64.whl is not a supported wheel on this platform.

格式没调好，可见公众号文章：https://mp.weixin.qq.com/s/Qy8b2rKdR1xji6Cvw82wEAImage。

无卡训练大模型，快试试线上服务！

前言：预训练模型已经火了这么久了，但作为菜本菜的我却还在用lstm。在生成任务上与同门学长用的预训练模型相比，效果差的比较明显。所以，我决定走上预训练的不归路。以下分享我的学习过程：了解模型：小说故事生成模型万事开头难，上视频：视频我喜欢看简短的从零实现GPT-2，瞎写笑傲江湖外传，金庸直呼内行_哔哩哔哩_bilibili这是一个非常简单的模型。他没有用huggingface的模型库，而是用pyt

Decoder 也是N层堆叠的结构。被分为3个 SubLayer，可以看出 Encoder 与 Decoder 三大主要的不同：Diff_1：Decoder SubLayer-1 使用的是 “masked” Multi-Headed Attention 机制，防止为了模型看到要预测的数据，防止泄露。Diff_2：SubLayer-2 是一个 encoder-decoder multi-head a

原因h5py 的String类型只接受ASCII的数据，如果你是Python3或者Python使用utf-8的编码就会报错。import h5pyf = h5py.File('test.hdf', 'w')f.attrs.create('test', '1234134')>>> h5py\h5t.pyx in h5py.h5t.py_create()>>> Ty