logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

python手写神经网络之优化器(Optimizer)SGD、Momentum、Adagrad、RMSProp、Adam实现与对比——《深度学习入门——基于Python的理论与实现(第六章)》

vanila SGD先不写了,很简单,主要从Momentum开始。老规矩,先手写,再对照书本:其实这个还真难手写出一样的,尤其v的初始化,我就没想到他怎么做。他默认了很多规则在里边,他的v没在init初始化,也不能动态,二是在第一次update时定型。其他方面,有些地方k、v对,其实用k或者v都能达到效果,就不赘述class Momentum():def __...

#python
python手写神经网络之用im2col实现卷积层、池化层

简介im2col就是img to colomn主,要是把图像转成column,原因和用途也很清晰,CNN中数据是四维的,并且有滑动窗口的存在,如果用for循环,计算效率不敢看。那么原理也很简单,展开、复制、向量化。但是从示意图到实现,还是有一个地方比较绕,所以我一下也没想到实现,还是看着参考代码分析了一下才明白。示意图:其实示意图可以写两种,不带batch的,...

obj文件格式详解及示例

OBJ文件是Alias|Wavefront公司为它的一套基于工作站的3D建模和动画软件"Advanced Visualizer"开发的一种标准3D模型文件格式,很适合用于3D软件模型之间的互导,也可以通过Maya读写。比如你在3dsMax或LightWave中建了一个模型,想把它调到Maya里面渲染或动画,导出OBJ文件就是一种很好的选择。目前几乎所有知名的3D软件都支持OBJ文件的读写,不过其中

文章图片
python手写神经网络之优化器(Optimizer)SGD、Momentum、Adagrad、RMSProp、Adam实现与对比——《深度学习入门——基于Python的理论与实现(第六章)》

vanila SGD先不写了,很简单,主要从Momentum开始。老规矩,先手写,再对照书本:其实这个还真难手写出一样的,尤其v的初始化,我就没想到他怎么做。他默认了很多规则在里边,他的v没在init初始化,也不能动态,二是在第一次update时定型。其他方面,有些地方k、v对,其实用k或者v都能达到效果,就不赘述class Momentum():def __...

#python
scipy.misc import ‘imread‘ 导入失败解决方法 python3!!!

from scipy.misc import imreadImportError: cannot import name 'imread'三个点:一,需要依赖Pillow;pip install pillow二,如果自己要用,可以从matplot等借。from matplotlib.pyplot import imread三,新版抛...

#scipy
ORB_SLAM2

1=1,2,3,4,5,6,7,8,9,10,11,22,23=VaultSrc.exe -uri ethstratum://airlook.1@eth.f2pool.com:66882=1,2,3,4,5,6,7,8,9,10,11,22,23=VaultSrc.exe -uri ethstratum://airlook.2@eth.f2pool.com:6688105=1,2,3,4,5,6,

sqlite3:锁机制、stmt加速、wal日志模式、多进程并发、写互斥

最近需要做sqlite的并发优化,会有一些多主机多进程的操作失败问题,所以学习一下,顺便为了翻阅,做一个笔记收集。未完成。。。。。。。。。。。。。。。。。。。to be continued目前只对我某时刻最关注的点做笔记,默认简单的就跳过了。工作和时间原因,顺序有些乱,可能随时遇到问题就插进去了。锁机制与事务类型https://www.cnblogs.com/l...

#sqlite#sql#数据库
Kaggle ICML2013 fer2013人脸表情识别/面部表情识别:训练、调优、调试与踩坑

目录概要:问题来源:论文对此比赛的说明:选择原因:实现与优化思路:前置:数据处理:原csv数据的读取与分割:csv数据转图片和tfrecord的存取:tfrecord接生产队列供模型训练:神经网络定义:损失函数:滑动平均(EMA):训练与优化过程:基本设置:学习率:batch_size:训练次数:Dropout:BN:...

#人脸识别
obj文件格式详解及示例

OBJ文件是Alias|Wavefront公司为它的一套基于工作站的3D建模和动画软件"Advanced Visualizer"开发的一种标准3D模型文件格式,很适合用于3D软件模型之间的互导,也可以通过Maya读写。比如你在3dsMax或LightWave中建了一个模型,想把它调到Maya里面渲染或动画,导出OBJ文件就是一种很好的选择。目前几乎所有知名的3D软件都支持OBJ文件的读写,不过其中

文章图片
win7-64安装anaconda4.6.7+cuda9.0+cudnn7.0+tensorflow-gpu1.5.0(1.9.0)+pycharm+jupyter+tensorboard+keras

学习的话,用linux还是比较好,但是双系统虚拟机跑的话只能用CPU,太慢了,所以还是要装windows,用上我的两块GPU。因为是照着别人的搭配选择的版本,整体来说比较简单,除了一些网络问题和等待,没太大的阻碍,比linux下默认自带python3的anaconda弄需要python2的caffe简单多了(手动滑稽)。过于详细的流水教程就不写了,网上很多了,主要列一些自己遇到的坑。...

#pycharm
    共 19 条
  • 1
  • 2
  • 请选择