之前一直错误的认为了切向量就是梯度，由于最近在看拉格朗日的方法，正好遇到这个问题，结果搞清楚了切向量和梯度的关系。简单的来说切向量和梯度都是求导数，但是要看的是对谁求导数。举个例子：y=x^2吧，简单点的。求在点(a,b)处的切向量。此时需要写成参数式x=x 并且 y=x^2，分别对x求导数得到(1, 2x)把(a,b)带入即可。求点(a,b)处的梯度。此时需要写成

这两天一直在看tensorflow中的读取数据的队列，说实话，真的是很难懂。也可能我之前没这方面的经验吧，最早我都使用的theano，什么都是自己写。经过这两天的文档以及相关资料，并且请教了国内的师弟。今天算是有点小感受了。简单的说，就是计算图是从一个管道中读取数据的，录入管道是用的现成的方法，读取也是。为了保证多线程的时候从一个管道读取数据不会乱吧，所以这种时候 读取的时候需要线程管理的相关操作

<br />目前项目需要，需要对时间进行基准，基准的精度在微秒。下午老刘给我说不能用do_gettimeofday因为他的精度虽然可以到微秒但是是依靠jiffies的精度（在linux 2.6.27内核中这个jiffies的单位是1毫秒）来更新这个时间值的，晚上回来就试试。结果呵呵，原来是可以精确到微秒并且不是靠jiffies的精度来更新的。<br />代码如下了。<br />#include <

最近完成了hinton的深度学习课程的卷积和池化的这一章节了，马上就要结束了。这个课程的作业我写的最有感受，待我慢慢说来。1：里面有几个理解起来的难点，一个是卷积，可以这么来理解。这幅图是对一个5*5的矩阵A进行3*3的矩阵B的卷积，那么就从最上角到右下角，生成卷积之后的矩阵的大小是(5-3+1)*(5-3+1)的矩阵，生成之后的矩阵的元素值，是之前的两个矩阵对应元素的乘积之和，这