目录一、什么是过拟合？（overfitting）二、过拟合的表现（判定方法）训练集、测试集、验证集区别测试集与验证集的区别三、产生过拟合的原因1、样本方面2、模型方面四、避免过拟合的方法1、样本方面1）增加样本量2）样本筛选（特征降维、特征选择）2、模型方法1）正则化①概念②L0正则化③L1正则化④L2正则化⑤为什么可以避免过拟合？2）归一化（Normalization）①最小最大值归一化（min

损失函数的一般表示为L(y,f(x))，用以衡量真实值y和预测值f(x)之间不一致的程度，一般越小越好。为了便于不同损失函数的比较，常将其表示为单变量的函数，在回归问题中这个变量为y−f(x)，在分类问题中则为yf(x)。下面分别进行讨论。

图 LeNet卷积神经网络结构前接：《机器学习——深度学习之数据库和自编码器》一、LeNet卷积神经网络结构1、卷积神经的作用由手工设计卷积核转换为自动学习卷积核卷积公式有很多：如傅里叶变换、小波变换等卷积核主要的作用就是将元素先乘再加（积分的本质就是加）2、LeNet二、关于卷积神经网络结构的一些术语定义图 LeNet卷积神经网络结构1、特征图（Feature map）原图像经过卷积核作用得到的

一、分类任务性能指标1、混淆矩阵2、精确度ACCURACY = 正确数/总数3、查全率（RECALL）——真正正样本中预测正确的比例4、查准率（precision）——预测为正样本中的预测正确的比例5、F-score——对查准率和查全率进行结合的一个参数6、ROC曲线与AUC1) 真正率：TPR——RECALL2）假正率：FPR = FP/（TN+FP）3)AUC——由TPR-FPR曲线（ROC）

目录论文名称：Deep Residual Learning for Image Recognition摘要：1、引言2、为什么会提出ResNet残差网络呢？3、深度残差网络结构学习（DeepResiduallearning）　　（1）残差单元　　（2）恒等映射/单位映射（identitymapping）　　（3）瓶颈（BottleNeck）模块　　（4）ResNet的结构　　（5）ResNet的进

目录1、faster rcnn：2、SSD：3、YOLOv1:小结：拓展：anchor-based和anchor-freeanchor1、faster rcnn：是一个two stage模型，主要创新点在于RPN网络用于候选框的生成。首先利用先验知识对特征图上每一个点生成先验大小的9个ANCHOR框，然后第一阶段是训练RPN网络即生成候选区域，确定每一个框是否包含物体，这里主要是对固定的ANCHO

目录方法1：改造目标函数与限制条件方法2：一类对其他类（类数为N，需要建立N个SVM模型）情形1：多个SVM模型结果交集得出确切归类情形2：多个SVM模型结果交集没有得出确切归类方法3：一类对一类（类数为N，需要建立SVM模型为N*(N-1)/2个）

import numpy as npimport matplotlib.pyplot as pltclass MLP:" Multi-layer perceptron "def __init__(self, sizes, beta=1, momentum=0.9):"""sizes is a list of length four. The first element is the number

一、原问题（prime problem）二、原问题的对偶问题（dual problem）1、定义一个辅助函数2、定义对偶问题>>>问题1：上面说到遍历w，那w的取值范围和取值步长是怎样的？即遍历的w从何处求得？3、原问题与对偶问题解的关系（一个定理）4、原问题与对偶问题的间距G——Duality gap（定义）5、强对偶定理（G=0的特定情况）6、KKT条件（由强对偶定理反推出的条件）

于是修改以下mmdetection的安装文件：site-packages/mmdet-2.1.0+unknown-py3.7-linux-x86_64.egg/mmdet/ops/conv_ws.py"把@CONV_LAYERS.register_module('ConvWS')修改为：@CONV_LAYERS.register_module(name='ConvWS', force=True)