sigmoid(x)​=1+e−x1​​sigmoid′(x)​=(1+e−x1​)′=(1+e−x)20−(1+e−x)′​=(1+e−x)2e−x​=(1+e−x)(1+e−x)1+e−x−1​=(1+e−x)1+e−x−1​.(1+e−x)1​=[1。

内部协变移位现象训练深度神经网络很复杂，训练中随着前一层参数变化，后一层输入分布就会变化。就要求是用较低学习速率和着重仔细的设置参数初始化值，导致训练速度较慢，并且使训练具有饱和非线性的模型变得非常困难。通过规范输入层来解决问题的方法。将批量数据集输入之前进行标准化,进行训练。将Batch Normalization（标准化)作为模型体系结构的一部分，并为每个训练小批量执行标准化，从而发挥了其优势

将不同的数据集放在不同的文件夹里，不需要。

根据报错行提示，显示输出文件有问题，以为是文件路径有问题。有的说是版本问题，但是不敢改，害怕其他包出现问题。查找的报错都和我的报错信息不一样，我显示的是。

python面向对象三大特性继承，封装，多态1.封装体现在两个方面：将同一类方法封装到了一个类中将数据封装到对象中，在实例化对象时，可以通过__init__初始化方法在对象中封装一些数据，便于以后使用2.继承子类继承父类中的方法和类变量（不是拷贝一份，父类还是属于父类，子类可以继承而已）父类又称基类子类又称派生类class Base:def func(self):print("base")#Son

​(欧氏距离)=wmin​∣∣y−Xw∣∣2​​(L2范式)在这个平方结果下，我们的y和y^分别是我们的真实标签和预测值，这个损失函数实在计算我们的真实标 签和预测值之间的距离。这个损失函数衡量了我们构造的模型的预测结果和真实标签的差异，即差异越小越好。所以我们的求解目标就可以转化为min⁡w∣∣y−Xw∣∣2\begin{aligned}\min_w||y-Xw||_2\end{aligned}

pandas是python语言的一个扩展程序库，用于数据分析pandas是一个开放源码,BSD许可的库，提供高性能，易于使用的数据结构和数据分析工具pandas名字衍生自术语panel data(面板数据)和(python数据分析)pandas是一个强大的分析结构化数据的工具集，基础是numpy(提供高性能的矩阵运算)pandas可以从各种文件格式导入数据,例如;pandas可以对各种数据进行运算

集合是一个无序，可变，不允许数据重复的容器无序，无法通过索引取值可变，可以添加和删除元素不允许数据重复应用场景：注意：定义空集合时，只能使用v=set(),不能使用v={}(这样定义的是字典)添加元素add()删除元素交集（取相同值）并集(取所有值再去重)差集3.公共方法减，计算差集&,计算交集|,计算并集长度for循环4.转换转换为集合类型，通过set()进行转换，如果有重复数据自动去重提示：i

【代码】python将数据按照行写入csv文件。

Q矩阵相关参数Q矩阵:从one-hot编码生成新的词向量Q矩阵是参数，需要学习训练,刚开始用随机值初始化Q矩阵，当这个网络训练好之后，Q矩阵的内容被正确赋值，每一行代表一个单词对应的值参数含义QQQV∗mV*mV∗m的矩阵，模型参数VVV词典大小,词的个数,有几个词就有几行mmm新词向量的大小神经网络相关参数参数含义WWWword缩写，表示单词ttttarget缩写，表示目标词【标签词】nnn窗口