这里计算有点不同，pytorch代码的实现里只有这个双线性变换参数大小，没有“还需要1152个b参数矩阵和1152个c参数矩阵”。上述函数可以直接通过probs = torch.softmax(logits, dim=2)替换，效果是一样的。torch.softmax归一化]2 priors的计算也可以替代。两部分损失函数加权和。

http://

Google于2017年6月发布在arxiv上的一篇文章《Attention is all you need》，提出解决sequence to sequence问题的transformer模型，用全attention的结构代替了lstm，抛弃了之前传统的encoder-decoder模型必须结合cnn或者rnn的固有模式，只用attention，可谓大道至简。文章的主要目的是在减少...

http://blog.csdn.net/pipisorry/article/details/39234557这篇文章是python基本数据结构的高级教程，一般的用法请自行参考python入门教程python入门教程基础变量及其作用域[python变量及其作用域，闭包 ][python数据类型的内存分析 ]函数[python函数： 内置函数]运算符Pyt...

http://blog.csdn.net/pipisorry/article/details/43313197模块和包1. python程序由包（package）、模块（module）和函数组成。2. 包是由一系列模块组成的集合。当不同作的模块进行按文件夹分类后再组成一个整体的库，可以称为包。为了让Python将目录当做内容包，目录中必须包含__init__.py文件，用于标识当前文件...

http://

这里三条黑线就是所谓的 peephole，传统的 LSTM 中遗忘门、输入门和输出门只用了 h(t-1) 和 xt 来控制门缝的大小，peephole 的意思是说不但要考虑 h(t-1) 和 xt，也要考虑 Ct-1 和 Ct，其中遗忘门和输入门考虑了 Ct-1，而输出门考虑了 Ct。RNN和LSTM都只能依据之前时刻的时序信息来预测下一时刻的输出，但在有些问题中，当前时刻的输出不仅和之前的状态有

http://blog.csdn.net/pipisorry/article/details/78258198Seq2seq模型seq2seq是什么？简单的说，就是根据一个输入序列x，来生成另一个输出序列y。seq2seq有很多的应用，例如翻译，文档摘取，问答系统等等。在翻译中，输入序列是待翻译的文本，输出序列是翻译后的文本；在问答系统中，输入序列是提出的问题，而输出序列是答案。Enc...

http://blog.csdn.net/pipisorry/article/details/39909057本博客一直在同步更新中！内容包含：pycharm学习技巧Learning tips、PyCharm3.0默认快捷键(翻译的)、pycharm常用设置、pycharm环境和路径配置、Pycharm实用拓展功能：pycharm中清除已编译.pyc中间文件、python2转python...

http://blog.csdn.net/pipisorry/article/details/54020333Networks算法Algorithms最短路径Shortest Pathsshortest_pathall_shortest_pathsshortest_path_lengthaverage_shortest_path_lengthhas_pathAdvanced InterfaceDe