本博客包含历年所有的复试机试题，以及自己找的一些相同难度的题，具有参考价值。2019西工大计算机复试机试题1.一组整数，由小到大排序，有n组测试数据，排序输出输入样例：21 5 8 6 3 2 04 2 3 8 15 63 20 1Output：0 1 2 3 5 6 81 2 3 4 8 15 20 63解析：此处注意处理输入和输出即可。用5种做法，冒泡排序、插入排序，快排和归并排序，冒泡时间复

本文介绍Attention机制，其经典使用是在NLP中搭配RNN（一般为LSTM）做编码解码器（Seq2Seq），用于给编码过程中每一步的状态分配权重，然后加权求和得到解码过程中每一步解码时的状态向量，参与计算，得到本步的输出。在学习笔记十四中，我介绍了Seq2Seq机制，文章的最后也带着说了一点Attention机制，大家可以去看看。一、Attention的本质是什么Attention（注意力）

本文总结自百度百科：激活函数激活函数功能激活函数就是在人工神经网络的神经元上运行的函数，负责将神经元的输入映射到输出端。ps：其实不仅仅是简单的映射到输出端，是通过激活函数将非线性特性引入神经网络，不然不加激活函数输入和输出始终是线性的，下边会具体讲到。什么是激活函数激活函数对学习人工神经网络，理解复杂和非线性函数来说有十分重要的作用。它们将非线性特性引入到我们的网络中。如下图所示，在神经元中，输

一、什么是学习率（Learning rate）学习率（Learning rate）作为监督学习以及深度学习中重要的超参数，其决定着目标函数是否能收敛到局部最小值以及何时收敛到最小值。合适的学习率能够使目标函数在合适的时间内收敛到局部最小值。它指导我们在梯度下降法中，如何使用损失函数的梯度调整网络权重的超参数。调整权重公式如下：new_weight = old_weight - learning_r

1. RNN和LSTM结构对比RNN：LSTM：其中的符号：注意：上面的四个黄框，每一个都是普通的神经网络，激活函数就是上面标注的。通过对比可以看出，RNN的一个cell中只有一个神经网络，而LSTM的一个cell中有4个神经网络，故一个LSTM cell的参数是一个RNN cell参数的四倍。从上图也可以看出，原来的一个RNN cell只需要存储一个隐藏层状态h，而一个LSTM cell需要存储

转载，原文地址：深度学习中过拟合、欠拟合问题及解决方案 - 早起的小虫子 - 博客园 (cnblogs.com)说的很细致，大家可以去看看。在深度学习的模型建立过程中，一般都是用已经产生的数据训练，然后使用训练得到的模型去拟合未来的数据，借此来预测一些东西。在机器学习和深度学习的训练过程中，经常会出现欠拟合和过拟合的现象。训练一开始，模型通常会欠拟合，所以会对模型进行优化，等训练到一定程度后，就需

以前一直知道神经网络划分数据集时要分为训练集，测试集和验证集，但不知道并且一般以6：2：2的比例划分，到头来不知道这三者各是啥，以及他们的作用是什么。本片文档解释一下三者的作用。重点在于验证集和测试集的区别以及用处。1. 三者的功能简述在机器学习中，我们的模型一般包括以下几点：（1）模型设计；（2）模型架构（模型多少层，每层神经元个数）；（3）神经元内置参数；（4）模型训练的参数：超参数（模型外置

本文总结自百度百科：激活函数激活函数功能激活函数就是在人工神经网络的神经元上运行的函数，负责将神经元的输入映射到输出端。ps：其实不仅仅是简单的映射到输出端，是通过激活函数将非线性特性引入神经网络，不然不加激活函数输入和输出始终是线性的，下边会具体讲到。什么是激活函数激活函数对学习人工神经网络，理解复杂和非线性函数来说有十分重要的作用。它们将非线性特性引入到我们的网络中。如下图所示，在神经元中，输

一、什么是学习率（Learning rate）学习率（Learning rate）作为监督学习以及深度学习中重要的超参数，其决定着目标函数是否能收敛到局部最小值以及何时收敛到最小值。合适的学习率能够使目标函数在合适的时间内收敛到局部最小值。它指导我们在梯度下降法中，如何使用损失函数的梯度调整网络权重的超参数。调整权重公式如下：new_weight = old_weight - learning_r

1. RNN和LSTM结构对比RNN：LSTM：其中的符号：注意：上面的四个黄框，每一个都是普通的神经网络，激活函数就是上面标注的。通过对比可以看出，RNN的一个cell中只有一个神经网络，而LSTM的一个cell中有4个神经网络，故一个LSTM cell的参数是一个RNN cell参数的四倍。从上图也可以看出，原来的一个RNN cell只需要存储一个隐藏层状态h，而一个LSTM cell需要存储