【LSTM】# 定义一个LSTM结构，在TensorFlow中通过一个简单的命令就可以实现一个完整的LSTM结构，LSTM中使用的变量也会在该函数中自动被声明lstm = tf.nn.rnn_cell.BasicLSTMCell(lstm_hidden_size)# 将LSTM中的状态初始化为全0数组，BasicLSTMCell类提供了zero_state函数来生成全0的初始状态，state是一个

tensorflow对卷积神经网络提供了非常好的支持，以下程序实现了一个卷积层的前向传播过程：# 卷积层的参数前两维代表过滤器的尺寸，第三个维度表示当前层的深度，第四个维度表示过滤器的深度filter_weight = tf.get_variable('weight', [5,5,3,16], initializer=tf.truncated_normal_initializer(stddev=0

强化学习实际上是找一个从观测到动作的最优映射函数，输入是外界观测，目标是奖励最大化。强化学习的主要特点：学习过程中没有监督信号，只要奖励(reward)其反馈(feedback)是延迟的而非瞬间的强化学习过程与时间序列相关，是一个序贯决策的过程agent采取的动作(action)会影响到它所接受的序列数据强化学习算法分类：model-free RL(不理解环境)：不具备环境的先...

深度学习推荐算法综述推荐算法综述MLPCNNRNN推荐算法论文深度学习

对于推荐模型的离线训练，无论是TensorFlow，PyTorch，还是传统一点的Spark MLlib都提供了比较成熟的离线并行训练环境。但推荐模型终究是要在线上环境进行inference的，如何将离线训练好的模型部署于线上的生产环境，进行线上实时的inference，其实一直是业界的一个难点。本篇文章是几种可行的推荐模型线上serving方法。一、自研平台无论是在数年前深度学习刚兴起的时代，还

一、概述这篇文章做的是多模态分类任务——也就是融合视觉和文本特征，并进行分类。这篇文章主要的亮点在于使用了类似于LSTM中的gate机制，提出了一种基于门控神经网络的多模态学习新模型。 门控多模态单元 (GMU) 模型旨在用作神经网络架构中的内部单元，其目的是根据来自不同模态的数据的组合找到中间表示。 GMU 学习使用乘法门来决定模态如何影响单元的激活。我们提出的模块基于门的想法，用于选择输入的哪

这篇文章做的是VQA，是【多模态论文阅读】Multi-modal Factorized Bilinear Pooling with Co-Attention Learning for Visual Question Answering这篇文章的扩展工作，也就是说将介绍的MFB的结构进行了级联扩展，从而进行了高阶多模态双线性池化。回顾MFB的结构如下：模型结构非常简单，就是级联了【多模态论文阅读】M

一、概述这篇文章做的是VQA与之前介绍的几篇文章用问题query对图像做attention不同的是，这篇文章最大的亮点在于：在本文中，我们认为除了建模“看哪里”或视觉注意力之外，建模“听什么词”或质疑注意力同样重要。 我们为 VQA 提出了一种新颖的共同注意力模型，该模型共同推理图像和问题注意力。 此外，我们的模型通过新颖的一维卷积神经网络 (CNN) 以分层方式对问题（以及因此通过共同注意机制的

深度学习推荐算法综述推荐算法综述MLPCNNRNN推荐算法论文深度学习

定义：对于一个样值序列间隔几个样值取样一次，这样得到新序列就是原序列的下采样。实际上，下采样就是抽取。缩小图像（或称为下采样（subsampled）或降采样（downsampled））的主要目的有两个：1、使得图像符合显示区域的大小；2、生成对应图像的缩略图。放大图像（或称为上采样（upsampling）或图像插值（interpolating））的主要目的是放大原图像,从而可以显示在更高分辨率的显