本文简单介绍了一下语言模型和马尔科夫假设。

文章目录引言神经网络概览神经网络表示计算神经网路的输出引言本文是吴恩达深度学习第一课：神经网络与深度学习的笔记。神经网络与深度学习主要讨论了如何建立神经网络(包括一个深度神经网络)、以及如何训练这个网络。第一课有以下四个部分，本文是第三部分。深度学习概论神经网络基础浅层神经网络深层神经网络神经网络概览本文将我们学习到如何实现神经网络。在上篇文章中，我们已经知道了逻辑回归模型和计算图之间的关系。这就

本文从Seq2Seq模型的思想开始，一步一步剖析Transformer的原理。

引言本文主要探讨迁移学习。迁移学习什么是迁移学习呢？假设现在要做猫和狗的分类器，我们需要一样标签数据告诉机器哪些是猫，哪些是狗。同时，假设现在有一些与猫和狗没有直接关系的数据，这里说是没有直接关系，并不是说是完全没有关系。就是说有一些关系，但又不是直接相关的。假设现在有自然界真实存在的老虎和大象的图片，那老虎和大象对分辨猫和狗会有帮助吗。或者说我们有一些卡通动画中的猫和狗图像，...

本文通过一个实际问题来验证上篇文章中介绍的方法。

本文一起来看下什么是RNN(循环神经网络)，以及如何从零实现一个RNN。

本文是吴恩达深度学习第四课：卷积神经网络。本次课程将会告诉大家如何构造卷积神经网络并应用到图像数据上。从中你会学到如何构建一个卷积神经网络、如何应用卷积神经网络到图像识别和目标检测上、学习如何使用神经风格转换去生成艺术作品、能将这些算法应用到更广泛的图像应用上，比如3D数据和视频。

Pythonic思维代表极简思维，Python开发者不喜欢写复杂的代码，喜欢用直观、简洁且易读的方式来编写。本文就一些常见常见如何利用Pythonic思维来编程就行说明。

⭐ 作者提出了一种对比学习框架，虽然论文是基于视觉探讨的，但后续也影响了很多NLP方面的工作。在更深更宽的模型和更大的批次、更长的训练时间基础上，首先通过多种数据增强产生有效的正样本用于对比学习。其次在表示和对比损失之间引入可学习的非线性头。最后利用归一化温度缩放交叉熵损失进行对比学习。在训练结束后，该引入的非线性头会被丢弃。

支持向量机(Support Vector Machine)在感知机中，我们介绍过，假设存在这样的两类点，我们可以学得一条决策边界将它们分开，比如是条这样的直线：但是得到的决策边界不唯一，根据选择训练集数据的顺序可以得到不同的决策边界：但是这两条决策边界的泛化能力都不好，为什么这么说呢，因为这两条线都离某个类别的点太近了，很可能测试集中未知的点会被错误的分类。那么什么样的决策边界才是最好...