博文内容大多转载于：http://blog.csdn.net/masa_fish/article/details/51882183【环境】笔记本：ThinkPad T450 X86_64显卡：主显 Intel HD Graphics 5500 ； 独显 NVIDIA GT 940M系统环境：Ubuntu14.04 64位、Windows7 64位 双系统CUDA 版本：

在我训练faster rcnn的过程中，使用VOC2007数据集end2end训练方法，并没有出现loss=nan的问题，出现了loss=nan说明模型发散，此时应该停止训练，不然得到的模型也不能检测出物体。在我自己训练自己的数据（Kitti数据集转成voc数据集）的时候，出现一个RuntimeWarning: invalid value encountered in log targets_

export NCCL_SOCKET_IFNAME=enp4s0，此处enp4s0为每台机器的网卡名字，使用ifconfig查看，要是出现多个网卡名字，找到那个右IP地址、网关和掩码的那个名字，直接在终端输入以下命令，方便查看NCCL日志。

这几天折腾了使用TensorRT加速一个BERT模型，在动态输入和输出这一块费了不少的劲，现在把这一块记录下来，算是自己的一点经验吧。。我的环境：torch = 1.5.0tensorrt =7.0.0.11我的思路是：（1）Torch模型转onnx（2）Onnx转TensorRT engine文件（3）TensorRT加载engine文件并实现推理一、Torch模型转onnxdef torch_

以下内容转载至：http://blog.csdn.net/pandamax/article/details/63684633自己通过网上查询的有关张量的解释，稍作整理。TensorFlow用张量这种数据结构来表示所有的数据.你可以把一个张量想象成一个n维的数组或列表.一个张量有一个静态类型和动态类型的维数.张量可以在图中的节点之间流通.阶

如何可视化使用tensorflow框架的网络中间层呢，网上找的答案都是使用tensor board，但是我想的是将网络的中坚层用一张一张图片显示并保存下来，下面附上代码：#-*-coding:utf-8-*-#此函数用来可视化tensorflow中间层import _init_pathsfrom fast_rcnn.config import cfgimport argpars

export NCCL_SOCKET_IFNAME=enp4s0，此处enp4s0为每台机器的网卡名字，使用ifconfig查看，要是出现多个网卡名字，找到那个右IP地址、网关和掩码的那个名字，直接在终端输入以下命令，方便查看NCCL日志。

以下博文转载于：http://www.infoq.com/cn/articles/deeplearning-tensorflow-actual-combat深度学习及TensorFlow简介深度学习目前已经被应用到图像识别，语音识别，自然语言处理，机器翻译等场景并取得了很好的行业应用效果。至今已有数种深度学习框架，如TensorFlow、Caffe、Theano、Torch、M