迁移学习与fine-tuning有什么区别？举个例子，假设今天老板给你一个新的数据集，让你做一下图片分类，这个数据集是关于Flowers的。问题是，数据集中flower的类别很少，数据集中的数据也不多，你发现从零训练开始训练CNN的效果很差，很容易过拟合。怎么办呢，于是你想到了使用Transfer Learning，用别人已经训练好的Imagenet的模型来做。做的方法有很多：把Ale...

https://time.geekbang.org/column/article/294382

对于一个新的算法模型来说，线上ab测试是需要一定的时间才能知道结果的，因此想要快速迭代模型，准确的、与线上表现一致的离线评估指标是不可或缺的。1.召回算法的离线评价问题。在做召回的过程中，没有一个合适的离线评价指标来评价召回的质量，大多数都是人为主观的判断，然后做abtest，看指标，更多的是运气成分。新用户的冷启动一直是推荐系统的一大问题，没有过多的数据，只能通过大量的规则和策略进行，或者使用额

对输入数据进行标准化处理的原因？使输入数据各个特征的分布相近：神经网络学习的本质就是学习数据的分布，如果训练数据与测试数据的分布不同，那么网络的泛化能力也大大降低；在使用小批量数据对神经网络进行训练时，若每批训练数据的分布各不相同，网络在每次迭代都去学习适应不同的分布，这会大大降低网络的训练速度；为什么要使用批量归一化？使用浅层模型时，随着模型训练的进行，当每层中参数更新时，靠近...

深度神经网络（Deep Neural Networks，DNN）可以理解为有很多隐藏层的神经网络，又被称为深度前馈网络（DFN），多层感知机（Multi-Layer perceptron,MLP）。1 前向传播算法1.1 从感知机到神经网络感知机的模型是一个有若干输入和一个输出的模型，如下图:输出和输入之间学习到一个线性关系，得到中间输出结果：接着是一个神经元激活函数，...

读书笔记 |《推荐系统实践》- 个性化推荐系统总结对于推荐系统，本文总结内容，如下图所示：一、什么是推荐系统1. 为什么需要推荐系统为了解决互联网时代下的信息超载问题。2. 搜索引擎与推荐系统分类目录，是将著名网站分门别类，从而方便用户根据类别查找公司。搜索引擎，用户通过输入关键字，查找自己需要的信息。推荐系统，和搜索引擎一样，是一种帮助用户快速发展有用信...

深度神经网络（Deep Neural Networks，DNN）可以理解为有很多隐藏层的神经网络，又被称为深度前馈网络（DFN），多层感知机（Multi-Layer perceptron,MLP）。1 前向传播算法1.1 从感知机到神经网络感知机的模型是一个有若干输入和一个输出的模型，如下图:输出和输入之间学习到一个线性关系，得到中间输出结果：接着是一个神经元激活函数，...

深度神经网络（Deep Neural Networks，DNN）可以理解为有很多隐藏层的神经网络，又被称为深度前馈网络（DFN），多层感知机（Multi-Layer perceptron,MLP）。1 前向传播算法1.1 从感知机到神经网络感知机的模型是一个有若干输入和一个输出的模型，如下图:输出和输入之间学习到一个线性关系，得到中间输出结果：接着是一个神经元激活函数，...

对输入数据进行标准化处理的原因？使输入数据各个特征的分布相近：神经网络学习的本质就是学习数据的分布，如果训练数据与测试数据的分布不同，那么网络的泛化能力也大大降低；在使用小批量数据对神经网络进行训练时，若每批训练数据的分布各不相同，网络在每次迭代都去学习适应不同的分布，这会大大降低网络的训练速度；为什么要使用批量归一化？使用浅层模型时，随着模型训练的进行，当每层中参数更新时，靠近...

目录概念&原理模型简介模型比较项目相关业务开放性问题数学大数据相关深度学习语言数据结构与算法算法要从以下几个方面来掌握产生背景适用场合（数据规模，特征维度，是否有 Online 算法，离散/连续特征处理等角度）；原理推导（最大间隔，软间隔，对偶）；求解方法（随机梯度下降、拟牛顿法等优化算法）；优缺点，相关改进；...