机器翻译主要用到的是seq2seq模型，这种模型通常由encoder-decoder组成，能够实现many-to-many的映射，符合翻译任务中输入与输出句子长度不同的情况。encoder-decoderseq2seq训练很明显，可以将编码器与解码器中的那些单元置换为RNN/GRU/LSTM单元，编码器提取待翻译句子的特征，通过隐藏状态送入解码器，解码器每个单元的输入与隐藏状态进行...

本节使用预训练好的ResNet-34模型来完成Kaggle竞赛中的犬种识别挑战，这里会用到模型微调的技巧，复用预训练的模型是大型比赛常常会用到的方法。实验内容整理数据集图像增强读取数据定义模型定义训练函数调参在完整数据及上训练模型对测试集分类并提交结果...

选择题 & 编程题（dp题 & 几何题）

目标检测是CV的四大基本任务之一，也是现在CV最热门的技术，与技术落地息息相关。目标检测相比于分类与分割，它的损失函数要更难理解一点。目标检测与边界框目标检测应用的场景通常是一副图像里有很多要关注的目标，比如下图有猫和狗两个目标，我们要分别把它们的位置和大小框出来，这用到的框便叫边界框。目标检测是解决"在哪里有什么"的任务。锚框锚框（Anchor）是目标检测算法最为核心的概念，它们与...

生成对抗网络（Generative Adversarial Networks,GANs）是一种把博弈理论结合神经网络用于生成新事物的模型。目前最常用于图像生成。直观感受原理GAN的原理是如下图所示：假设有两个网络，G（Generator）和D（Discriminator）·G是一个生成图片的网络，它接收一个随机的噪声z，通过这个噪声生成图片，记做G（z）。·D是一个判别网络，判别一张...

图像风格迁移是个有趣的应用，可以改变一副图像的样式，虽然照片内容没变，但却变成了另一种风格。样式迁移如果你是一位摄影爱好者，也许接触过滤镜。它能改变照片的颜色样式，从而使风景照更加锐利或者令人像更加美白。但一个滤镜通常只能改变照片的某个方面。如果要照片达到理想中的样式，经常需要尝试大量不同的组合，其复杂程度不亚于模型调参。在本节中，我们将介绍如何使用卷积神经网络自动将某图像中的样式应用在...

凸优化理论是学习线性回归的时候就会用到的数学知识，利用凸优化的理论，可以求出最佳的参数值（解析解）使得损失函数最小，也可以证明梯度下降优化算法是有效地。优化与DL优化与估计尽管优化方法可以最小化深度学习中的损失函数值，但本质上优化方法达到的目标与深度学习的目标并不相同。优化方法目标：训练集损失函数值深度学习目标：测试集损失函数值（泛化性）优化在DL中遇到的问题局部最小值鞍点...

图像风格迁移是个有趣的应用，可以改变一副图像的样式，虽然照片内容没变，但却变成了另一种风格。样式迁移如果你是一位摄影爱好者，也许接触过滤镜。它能改变照片的颜色样式，从而使风景照更加锐利或者令人像更加美白。但一个滤镜通常只能改变照片的某个方面。如果要照片达到理想中的样式，经常需要尝试大量不同的组合，其复杂程度不亚于模型调参。在本节中，我们将介绍如何使用卷积神经网络自动将某图像中的样式应用在...

DCGAN是把全卷积神经网络引入到了GAN。DCGAN做了如下改进：取消pooling层。G中用反卷积进行上采样，D中用加入stride的卷积代替poolingbatch normalization去掉FC层，网络为全卷积网络G中使用Relu(最后一层用tanh)D中用LeakyRelu可以参考这篇文章DCGAN论文及代码学习...

据说加了注意力机制的Transformer模型依然是NLP领域最强劲的模型。Transformer模型是为了解决了之前RNN模型训练速度慢的缺陷才被提出来的，以后有需要再来学习。...