摘要与引言BERT在MRC任务上已经达到了很高的效果，但是缺点在于BERT的输入最多只能512个单词。而对于MRC任务来说，有的数据集的文章特别长。因此想要用BERT处理这类数据集，就必须将文章切分开。每一篇文章与问题独立的构成一个example，也就是一个样本作为BERT的输入。拿BERT的源码举例：import collectionslength_of_doc_tokens=700#文章的长度

DropoutDropout原理Dropout是指在训练神经网络的时候，每当传入一批数据时，对于某一层来说，会以一定的概率p随机丢弃一些神经元。从而可以缓解过拟合的问题。那么为什么丢弃神经元可以缓解过拟合呢？可以从多个角度解释，但是本质都是正则化。通过丢弃神经元，网络的参数会变少，通过减少网络参数可以缓解过拟合问题；由于丢弃神经元的随机性，每当传入一批数据，整个网络的结构就会有少许变化，这个过程会

出现这种问题主要是因为用其他的GitHub账号push时出错，问题主要出在原注册账号上，系统保存了账号的信息。在使用新帐号时，信息不一致，所以报错。解决方案打开cmd，输入命令：rundll32.exe keymgr.dll,KRShowKeyMgr，出现存储的用户名和密码窗口将github相关的条目删除再次执行git push origin master就会提示你登录用户名和密码，这...

我们下载的是train-v1.1.json.用json打开data=json.load(open(train-v1.1.json))data是一个dict，长度是2，key是"data"和"version".数据全在data[“data”]中data[“data”]是一个长度为442的list，每一个元素是一个dict.我们来看第一个元素：data[“data”][0]这是一个dict,key是"

通常我们在终端是不能用nltk.download(‘punkt’)下载的我把下载好的punkt.zip放到网盘里面了，应该是永久有效的，失效了可以联系我。链接: https://pan.baidu.com/s/1aaFpRWKA2rKV-a2OD6r0cQ密码: r98k那么下载后的punkt放到哪里呢???我们打开pythonimport nltknltk.word_tokenize("dsd