logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

深度学习论文笔记(ReLU):Deep Sparse Rectifier Neural Networks

文章目录主要工作人工神经网络与生物神经网络的区别稀疏性带来的优势主要工作提出了ReLU激活函数,ReLU激活函数的表现能力比tanh激活函数的更加好,训练完毕的神经网络具有一定的稀疏性人工神经网络与生物神经网络有一定的相似性,例如CNN与生物视觉神经处理数据的形式往往相似人工神经网络与生物神经网络的区别一、大脑神经元通过稀疏且分布的方式编辑信息。什么是稀疏与分布?我的理解是,只有少部分...

#深度学习#神经网络#cnn
深度学习(自监督:SimSiam)——Exploring Simple Siamese Representation Learning

文章目录前言SimSiam简述实验前言该文章是何凯明组发表于CVPR2021上的文章,目前已获得最佳论文提名,主要解决自监督对比学习中的奔溃解问题。奔溃解即不论什么输入,特征提取器输出的特征向量都相同。本文将简单介绍SimSiam,记录其中较有意思的实验结果。作者并没有解释为什么SimSiam可以避免奔溃解,但文章的确非常出彩。SimSiam简述上图即SimSiam的整体结构,具体而言对输入图像x

#深度学习#神经网络#机器学习
现代操作系统学习笔记——内核态与用户态、系统调用

本文为学习《现代操作系统》时遇到的疑问,为网上查找资料的总和。内核态与用户态操作系统需要CPU的两种状态,即内核态与用户态,两种状态的不同主要体现在所能使用的指令范围上。内核态:可以执行任何指令,对所有硬件具有完全访问权,操作系统就运行在内核态。用户态:只能使用计算机指令集的一个子集,不允许执行某些指令。两种状态的不同:除了可使用指令的不同之外,处于用户态执行时,能访问的内存空间收到限制,所占用的

深度学习——贝叶斯神经网络

文章目录前言什么是贝叶斯神经网络How to train BNNBNN的损失函数前言看了网上不少贝叶斯神经网络的文章,不少文章写的有点马虎,甚至一些说的不清不楚的文章,评论区许多人称赞是好文章,不禁让人怀疑他们是否真的看懂了文章。本文将总结贝叶斯神经网络,首先,我将简单介绍一下什么是贝叶斯神经网络(BNN);接着我将介绍BNN是怎么训练的,BNN是怎么预测的;最后,我会介绍BNN背后的运作原理。如

机器学习——硬间隔SVM

以下内容均为个人观点,如有错误,欢迎指出终于到支持向量机这个大魔王了文章目录什么是支持向量机什么是支持向量机考虑二分类问题,我们需要在空间中找一个划分超平面,使位于两侧的样本大体上属于不同的类...

机器学习——XGBoost

以下内容均为个人理解,如有错误,欢迎指出文章目录什么是XGBoostXGBoost的推导过程XGBoost的目标函数模型学习与训练误差XGBoost为什么要使用弱分类器Bagging的偏差与方差Boosting的偏差与方差什么是XGBoost以下内容摘自一文读懂机器学习大杀器XGBoost原理XGBoost是boosting算法的其中一种。Boosting算法的思想是将许多弱分类器集...

python爬虫——使用urllib设置代理出现由于目标计算机积极拒绝,无法连接

先说结论结论1、检查自己有没有被封2、确保自己的网络有正确设置:https://blog.csdn.net/qq_26035563/article/details/802099763、检查代码,将urllib替换为requests库,或者不让urllib全程使用代理  问题分析 出现这个问题第一反应是被封,但随即否定,自己设置了较合理的等待时间,并且在学校内部,一般...

深度学习(自监督:SimCLR)——A Simple Framework for Contrastive Learning of Visual Representations

文章目录前言SimCLR简述实验数据增强对性能的影响Unsupervised contrastive learning benefits (more) from bigger modelsA nonlinear projection head improves the representation quality of the layer before itContrastive learning

深度学习(生成式模型GMVAE)——deep unsupervised clustering with gaussian mixture variational autoencoders

文章目录前言GMVAE的生成过程GMVAE的损失函数reconstruction termconditional prior term前言传统的VAE,隐变量服从标准高斯分布(单峰),但有时候,单个高斯分布可能不能完全表达图像x的特征,比如MINIST数据集有0~9这10个数字,直觉上使用10个高斯分布来替代单个高斯分布更为合理,因此有学者将混合高斯分布模型(GMM)与VAE进行结合,其结果便是G

#深度学习#人工智能#机器学习
深度学习——卷积神经网络是否能编码位置信息?

文章目录前言猜想实验实验思路网络结构——position encoding network评价指标实验结果前言卷积神经网络在图像领域性能十分卓越,不仅可应用于图像识别,也可应用于目标检测与语义分割。目标检测与语义分割都需要定位目标在图像中的位置,而卷积神经网络在这两类任务中表现优异,是否意味着卷积神经网络可以编码目标的绝对位置(目标在图像中的位置,而不是目标相对于图像中的其他事物的位置)信息呢..

    共 88 条
  • 1
  • 2
  • 3
  • 9
  • 请选择