不过，在实际应用中，硬盘等存储设备的制造商通常按照1GB=1000MB，1MB=1000KB，1KB=1000B的进制来计算容量，这就导致在操作系统中查看存储设备容量时，显示的容量会略小于按照1024进制计算的结果。参数（2字节） + 梯度（2字节） + 动量（2字节） + 方差（2字节） = 8字节/参数。B = Billion（十亿）, 因此，671B模型指拥有6710亿参数的模型。- 1GB

supervisor常用命令

注意力机制说白了就是要通过训练得到一个加权，自注意力机制就是要通过权重矩阵来自发地找到词与词之间的关系。因此肯定需要给每个input定义tensor，然后通过tensor间的乘法来得到input之间的关系。那这么说是不是给每个input定义1个tensor就够了呢？不够啊！如果每个input只有一个相应的q，那么q1和q2之间做乘法求取了a1和a2的关系之后，这个结果怎么存放怎么使用呢？而且a1和

安装Centos6.7虚拟机后，虚拟机要访问外网，设置NAT网络安装VMWare Fusion成功后，Mac OS会新增两张网卡vmnet1以及vmnet8，其中vmnet1是Host-only模式，vmnet8是NAT模式，这里选择vmnet8使用NAT进行网络设置。注意：下面内容修改的过程中，需要把VMware关闭步骤一：在mac实体机中修改VMWare的vmnet8配置文件/...

conda在Linux上创建虚拟环境

python中max的使用当max中使用key的时候结果展示总结max(dict_data) # 返回字典中key最大的项，返回值为keymax(dict_data,key=dict1.get) # 返回字典中value最大的项，返回值是value最大的那个key也就是说，max(dict)返回的总是字典的键，根据max()函数的key参数后面所传入的值，判断要比较的项是 key 还是 value