学习率衰减：加快学习算法的一个办法就是随时间慢慢减少学习率,我们将之称为学习率衰减(learning rate decay)，在训练过程中，我们可以根据训练的结果对学习率做出改变。import cv2import osimport tensorflow as tfimport numpy as npimport matplotlib.pyplot as pltpath='flower...

一、模型保存：1.保存模型参数2.保存整个模型回调函数保存手动保存1.回调函数：tf.keras.callbacks.ModelCheckpoint训练期间保存模型（以 checkpoints 形式保存）,Checkpoint是一个二进制文件，它保存了权重、偏置项、梯度以及其他所有的变量的取值，扩展名为.ckptkeras.callbacks.ModelChe...

BN(BatchNormalization)层的作用：1，加速收敛；2，控制过拟合，可以少用Dropout或者不用Dropout；3，降低网络对初始化权重的不敏感；4，允许使用比较大的学习率。解决梯度消失与梯度爆炸的问题1，网络中训练以batch_size为最小单位不断迭代，新的batch_size进入网络，就会产生新的γ与β，在BN层中，有总图片/batch_size组γ与β被保...

两种方法1.tensorflow_datasets包载入https://tensorflow.google.cn/datasets/overview2.tf.keras.datasets载入一、tensorflow_datasets载入数据集安装包pip install tensorflow_datasets导入包import tensorflow as tfimport te...

很多时候，我们希望使用自己的数据集来训练模型。然而，面对一堆格式不一的原始数据文件，将其预处理并读入程序的过程往往十分繁琐，甚至比模型的设计还要耗费精力。比如，为了读入一批图像文件，我们可能需要纠结于 python 的各种图像处理包（比如 pillow ），自己设计 Batch 的生成方式，最后还可能在运行的效率上不尽如人意。为此，TensorFlow 提供了 tf.data 这一模块，包括了一套

循环神经网络循环神经网络（Recurrent Neural Network, RNN）是一种适宜于处理序列数据的神经网络，被广泛用于语言模型、文本生成、机器翻译等。常用模型结构定义循环神经网络层APISimpleRNN、LSTM、GRUimport tensorflow as tf1.SimpleRNNVanilla RNNtf.keras.layers.SimpleRNN...