上一篇转载的博文《神经网络中的对抗攻击与对抗样本》帮助我理解了神经网络学习的本质，以及对抗攻击的来龙去脉。接下来在这篇文章：《忽悠神经网络指南：教你如何把深度学习模型骗得七荤八素》中进一步理解了神经网络中白箱攻击，本博文拟在加深学习印象，并结合自己的一些理解对该文章将的一些内容做一个重梳理。因为本人也处于学习阶段，博文中因考虑不全面或有欠缺的地方欢迎交流指正。为什么要进行对抗攻击研究未...

0 前言复杂度对模型的影响时间复杂度决定了模型的训练/预测时间。如果复杂度过高，会导致模型训练和预测耗费大量时间，既无法快速的验证想法和改善模型，也无法做到快速的预测。空间复杂度决定了模型的参数数量。由于维度灾难（curse of dimensionality）的限制，模型的参数越多，训练模型所需的数据量就越大，而现实生活中的数据集通常不会太大，这会导致模型的训练更容易过拟合。1. 时...

如题，vscode在一个离线服务器上，通过remote-ssh登录远程服务器，不断弹出密码框，总是进不去，后来了解到主要是不同vscode版本需要下载对应抑制commit-id的vscode-server-linux-x64.tar.gz包。如果你已经通过vscode连过了，这个commit_id的文件夹估计就已经存在了，不用再次创建，直接敲解压命令。2) 在一个可联网的服务器，输入如下命令下载这

查看是否有GPU：import tensorflow as tfgpu_device_name = tf.test.gpu_device_name()print(gpu_device_name)查看GPU是否可用，返回 True 或者 Falsetf.test.is_gpu_available()from tensorflow.python.client import device_lib# 列出

在机器学习、深度学习中使用的优化算法除了常见的梯度下降，还有 Adadelta，Adagrad，RMSProp 等几种优化器，都是什么呢，又该怎么选择呢？在 Sebastian Ruder 的这篇论文中给出了常用优化器的比较，今天来学习一下：https://arxiv.org/pdf/1609.04747.pdf本文将梳理：每个算法的梯度更新规则和缺点为了应对这个不足而提出的下一个...

根据前一篇博文解决了tensorflow-gpu安装时候的DLL load failed错误，本以为安装好GPU版本的tensorflow就可以愉快的玩耍了，结果发现，并不是每一个NVIDIA显卡都适合安装GPU版本的tensorflow。因为安装了GPU版本的tensorflow，所以跑实验时候都会默认使用GPU加速运算，然而安装成功之后我发现，当直接用tensorf...

docker不能pull镜像，虚拟机也连不了网，好像是DNS server的问题。运行docker run hello-world报错如下：docker: Error response from daemon: Get https://registry-1.docker.io/v2/: dial tcp: lookup registry-1.docker.io on [::1]:53: r...

在机器学习、深度学习中使用的优化算法除了常见的梯度下降，还有 Adadelta，Adagrad，RMSProp 等几种优化器，都是什么呢，又该怎么选择呢？在 Sebastian Ruder 的这篇论文中给出了常用优化器的比较，今天来学习一下：https://arxiv.org/pdf/1609.04747.pdf本文将梳理：每个算法的梯度更新规则和缺点为了应对这个不足而提出的下一个...

在ubuntu系统更新旧版本的cmake，可按照如下步骤。

目录循环神经网络与卷积神经网络循环神经网络的梯度消失问题循环神经网络中的激活函数长短期记忆网络Seq2Seq模型注意力机制循环神经网络与卷积神经网络1. 处理文本数据时，循环神经网络与前馈神经网络相比有什么特点？（1）在神经网络的建模过程中，一般的前馈神经网络，如卷积神经网络，通常接受一个定长的向量作为输入。卷积神经网络对文本数据建模时，输入变长的字符串或者单词...