from torch._C import * ImportError: DLL load failed的一些原因没有安装最新的CUDA版本PyTorch升级版本的时候，请注意下是否CUDA版本也升级了。比如1.2的时候用的是CUDA 10.0，但是1.3的时候已经要求是CUDA 10.1了。如果没有安装CDUA 10.1，就会出现上面的错误。python script目录没有放到path中...

强化学习快餐教程(1) - gym环境搭建欲练强化学习神功，首先得找一个可以操练的场地。两大巨头OpenAI和Google DeepMind都不约而同的以游戏做为平台，比如OpenAI的长处是DOTA2，而DeepMind是AlphaGo下围棋。下面我们就从OpenAI为我们提供的gym为入口，开始强化学习之旅。OpenAI gym平台安装安装方法很简单，gym是python的一个包，通...

代码补全快餐教程(2) - 预训练模型的加载和使用上一节我们用30多行代码建立了一个强大的补全模型，让大家对于transformers库有了个感性的认识。下面我们开始补课，更深入到了解下发生在幕后的故事。加载预训练好的语言模型gpt2之所以强大的原因是在于它是在超过40GB的文本上进行训练的大型语言模型。通过这个大型的预训练语言模型，我们可以做一些fine-tuning针对编程语言进行优化...

代码补全漫谈(2) - Miltos Allamanis上一回我们从火到爆表的TabNine说起，介绍了OoV问题引发的论战。在进入细节之前，我们再八卦程序语言处理领域的一个重要研究者，微软研究院的Miltos Allamanis。Allamanis的博士论文就是以《Learning Natural Coding Conventions》为题，是这个领域的专业研究人员。上次我们介绍的重要su...

opengrok的鉴权插件开发指南opengrok是被广泛应用的源代码浏览系统。对于开源代码，不需要考虑鉴权的问题，但是对于需要进行权限控制的代码，我们就需要做一些鉴权操作。opengrok专门为我们提供了插件机制来进行鉴权等操作。最简单的鉴权例子opengrok提供了IAuthorizationPlugin做为鉴权的入口。IAuthorizationPlugin包含load, unloa...

上一篇我们介绍了大模型的基础，自注意力机制以及其实现Transformer模块。因为Transformer被PyTorch和TensorFlow等框架所支持，所以我们只要能够配置好框架的GPU或者其他加速硬件的支持，就可以运行起来了。而想运行大模型，恐怕就没有这么容易了，很有可能你需要一台Linux电脑。因为目前流行的AI软件一般都依赖大量的开源工具，尤其是要进行优化的情况下，很可能需要从源码进行

深度学习简史从机器学习流派说起如果要给机器学习划分流派的话，初步划分可以分为『归纳学习』和『统计学习』两大类。所谓『归纳学习』，就跟我们平时学习所用的归纳法差不多，也叫『从样例中学习』。归纳学习又分为两大类，一类是像我们归纳知识点一样，把知识分解成一个一个的点，然后进行学习。因为最终都要表示成符号，所以也叫做『符号主义学习』；另一类则另辟蹊径，不关心知识是啥，而是模拟人脑学习的过程...

在这一讲之前，我们所用的大模型都是针对文本的。这一讲我们增加一个新的领域，即音频。我们将介绍OpenAI的Whisper模型，它是一个处理音频的大模型。

通过前面的学习，我们了解了在深度学习和大模型中，GPU的广泛应用。可以说，不用说没有GPU，就算是没有大显存和足够先进的架构，也没法开发大模型。有的同学表示GPU很神秘，不知道它是怎么工作的。其实，GPU的工作原理和CPU是一样的，都是通过指令来控制硬件的。只不过，GPU的指令集和CPU不一样。下面我们就走进GPU的内部，看看如何用汇编来写GPU的程序。

在MTK芯片上如何控制CPU的核数和频率-一句话：PerfService就是用来调整CPU/GPU资源的。对于老的API，可以更简单地讲就是调CPU核数和CPU频率的。