前言在机器学习中降维是我们经常需要用到的算法，在降维的众多方法中PCA无疑是最经典的机器学习算法之一，本文就带着大家一起来学习PCA算法。前置内容要学会PCA算法，首先需要了解矩阵分解算法。而矩阵分解算法又分为特征值分解和SVD(奇异值)分解，这两个算法的目的都是提取出一个矩阵最重要的特征。特征值分解特征值，特征向量如果一个向量vvv是矩阵A的特征向量，则一定可以表示为下面的形式：A...

1. 前言终于下定决心来更新这个专题了，首先说一下我想做什么？我想做的就是基于SSE/AVX的PC端算法优化，也可以理解为对传统的OpenCV算法的指令集优化。这个系列也会保持一直更新，不断分享我学习SSE/AVX指令集以及利用它优化的一些小算法，希望能在算法加速这一点帮助到一些人。另外，虽然这个专题的核心是SSE/AVX算法优化，但我也同时会介绍一些其它的优化技术比如循环展开，多线程，内存优..

前言今天为大家介绍一篇图森科技在ICCV 2019的目标检测论文《Scale-Aware Trident Networks for Object Detection》，简称TridentNet，中文翻译为三叉戟网络。论文地址见附录。背景我们知道在目标检测任务中，尺度变化一直是很关键的问题。针对尺度变化问题，也有很多的方案被提出，如Figure 1所示：其中(a)图表示多尺度图像金字塔网络...

前言前面已经讲了ResNet，ResNeXt，以及DenseNet，讲解的原文都可以在文后找到。今天要介绍的DPN（双路网络）

看了不少的目标检测论文了，个人认为多数论文的出发点就两个，一是感受野，二是特征融合。此外，解决数据不平衡和轻量化也是另外两个重要的方向。今天要讲解的RFBNet就是从感受野角度来改善了SSD检测器。1. 前言今天为大家科普一篇ECCV 2018的一篇目标检测网络RFBNet，论文全名为：Receptive Field Block Net for Accurate and Fast Obje...

这篇论文整理了CNN分类任务中一些常用的Tricks，如改善模型结构，训练过程中的一些Refinements如修改损失函数，数据预处理等，有较大工程意义。1. 前言这篇论文的全名是：Bag of Tricks for Image Classification with Convolutional Neural Networks 。论文地址见附录。这篇论文是亚马逊团队对CNN网络调优的经验总...

前言前面介绍了使用特征脸法进行人脸识别，这里介绍一下OpenCV人脸识别的另外两种算法，一种是FisherFace算法，一种是LBPH算法。FisherFace算法FisherFace是基于线性判别分析(LDA)实现的。LDA算法思想最早由英国统计与遗传学家，现代统计科学的奠基人之一罗纳德*费舍尔(Ronald)提出。LDA算法使用统计学方法，尝试找到物体间特征的一个线性组合，在降维的同时考...

前言从这里开始，我会不定期的更新一些人脸识别的有趣算法和小demo算法，源码也会开放出来，自己在学习的过程中希望也能帮助到公众号中对这方面感兴趣的小伙伴，无论是从源码角度，还是从原理角度，我说清楚了，对在看的你有帮助就是我最大的幸福。人脸识别的需要的数据集可以自己制作，也可以从网上免费下载。我这里选了人脸识别中入门级别的一个数据集ORL人脸库，不得不说，我是在CSDN下载的这个库，花了我7个金..

前言之前讲了DeepLabV1,V2,V3三个算法，DeepLab系列语义分割还剩下最后一个DeepLabV3+，以后有没有++,+++现在还不清楚，我们先来解读一下这篇论文并分析一下源码吧。论文地址：https://arxiv.org/pdf/1802.02611.pdf背景语义分割主要面临两个问题，第一是物体的多尺度问题，第二是DCNN的多次下采样会造成特征图分辨率变小，导致预测精度降低...

本文基于DeepSpeedExamples仓库中给出的Megatron相关例子探索一下训练GPT2模型的流程。主要包含3个部分，第一个部分是基于原始的Megatron如何训练GPT2模型，第二个部分是如何结合DeepSpeed的特性进行训练Megatron GPT2，由于篇幅原因这篇文章只写了第一部分，主要是非常细致的记录了跑起来Megatron GPT2训练流程碰到的一些问题和如何解决的。