博文： 秒懂词向量Word2Vec的本质什么是Word2Vec？词性标注：是动词还是名词，样本（x，y）中，x是词语，y是它们的词性f（x）->y中的f（神经网络、SVM）只接受数值型输入，而NLP里的词语，必须转换为数值型形式语言模型： 把 x 看做一个句子里的一个词语，y 是这个词语的上下文词语，那么这里的 f，便是 NLP 中经常出现的『语言模型』（language model），这个

这种情况如果在Windows下操作如下：第一步： 往往拷贝下来的程序是在linux上运行的第二步： 设置根路径要调整有python.exe文件的地方！这两个路径要设置成为自己的项目根目录！

链接

import torchfrom src.model.DKN.KCNN import KCNNfrom src.model.DKN.attention import Attentionfrom src.model.general.click_predictor.DNN import DNNClickPredictor# 就是把整个模型框架梳理到一块了！class DKN(torch.nn.Modu

前情提要前面我们有说，BERT做的是什么？Bert做的是填空题！ GPT做的是什么？ 做的是预测接下来要出现的Token是什么？ 它里面的结构有点像Transformer中的DecoderGPT最有名的就是生成了一个关于独角兽的假新闻！同时也说明了它的作用就是可以写出一个文章GPT系列很难去训练，因为太大了，也很难去fine-tune！ 但是GPT有一个很狂的想法： 就是说我们只给你少量或者没有参

torch.nn.Module()如果自己想研究，官方文档它是所有的神经网络的根父类！ 你的神经网络必然要继承！模块也可以包含其他模块，允许将它们嵌套在树结构中。所以呢，你可以将子模块指定为常规属性。常规定义子模块的方法如下：以这种方式分配的子模块将被注册（也就是成为你的该分支下的子类），当你调用to()等方法的时候时，它们的参数也将被转换，等等。当然子模块就可以包含各种线性or卷积等操作了！也就

更详细的版本根据这个博客1、 安装anaconda， 这里已经安装成功，所以忽略！conda --versionconda info --envs分别看自己现在的环境2、 查看默认的python版本（也就是anaconda下的）pythonexit()3、安装环境conda create --name tf37 python=3.7这里默认给我安装的是python=3.7.11版本的再次查看pyt