整理自网络，主要方便自己查询和记忆（a）BERT，（b）MobileBER Tteacher模型和（c）MobileBERT student模型中的Transformer架构可视化。标有“linear”的绿色梯形称为bottlenecks。知识迁移技术（a）辅助知识迁移，（b）联合知识迁移，（c）渐进知识迁移。通过逐步的知识迁移过程来训练MobileBERT的这些变体是最有效MobileBERT

VSCode 官网下载安装包太慢了，复制下载地址，将地址中的 az764295.vo.msecnd.net 更换为 vscode.cdn.azure.cn 使用国内的镜像服务器加速。https://vscode.cdn.azure.cn/stable/f30a9b73e8ffc278e71575118b6bf568f04587c8/code_1.54.1-1614898113_amd64.deb速

下载需要的软件 vscode,python(可需要时候安装)我是Ubuntu系统安装dep包是dpkg -c code_1.47.3-1595520028_amd64.deb查看python版本 python3 --versiong++版本 g++ --version若缺啥请下载啥配置工作执行code命令可以打开vscodeCtrl+Shift+X是插件管理页面，搜索python点击安装打开文件夹

背景神经网络硬件是计算机体系结构、人工智能和神经科学等多学科深度融合、交叉的一个领域，是利用专门的硬件电路对神经网络算法进行处理。二十世纪八九十年代，国内外曾掀起一阵研究神经网络硬件的热潮。但是由于整个智能领域的研究陷入低潮，神经网络硬件的研究也趋于停滞。近年来，计算机体系结构、人工智能应用出现了一些新的趋势，神经网络硬件加速器又重新回到工业界和学术界的视野。计算机体系结构：暗硅自计算机诞生以来，

在Linux中，几乎所有内容都是文件描述符。目录是一种特殊类型的文件，从用户的角度来看，它可以保存其他文件。因此，您不能同时在同一目录中拥有相同的名字。如果可以的话，编码人员的生活将变得痛苦不堪。当有人要创建目录并检查目录是否存在时，将返回命令“ isDir”。filename='out/a/acfg'file_dir = os.path.split(filename )[0]if not os.

据说SpinalHDL相比chisel更具优势，这让我有了兴趣，今天开始安装搭建。平常用的linux系统的，但是Intel IDEA安装在Ubuntu上的时候总是卡的不行，就放弃了，其实SpinalHDL可以不用IDE的运行。教学文档中说需要安装的软件如下.. _requirements:Requirements / Things to download to get started-------

Github下的项目可能很大，里面有很多的子文件夹，我们可能只需要使用某个子目录下的资源安装svnlinux:sudo apt-get install subversion复制其网址为：例如：https://github.com/google/or-tools/tree/master/examples/python更换/tree/master替换为/trunk得到svn地址为：https://gi

import cv2时出错，没安装cv2，No module named 'cv2', 需要pip 安装，pip install cv2 error网上搜了下说pip install opencv-python然后又错哦raise ReadTimeoutError(self._pool, None, 'Read timed out.')搜了下说是源的问题，速度不行要用国内源pip install