最近找到一些计算FLOPs的文章，奈何全是水文，讲都讲不清楚，完完全全的究极缝合怪。因此，这里准备彻底搞懂。

问题描述：ubuntu16.04+AMD3500X+TiTan X，训练模型时，python进程cpu使用率很低，导致GPU没办法很快训练，出现了 GPU利用率从100%到0%之间反复横调，而且是间隔几秒钟的从0到百。# 动态查看CUDA使用率watch -n -0.1 nvidia-smi# 动态查看CPU进程top原因分析：注意：这里我仔细查看进程，发现python的训练进程竟然神奇的消失了，

第三篇：创建深度学习所需的虚拟环境（Windows or Linux-ubuntu16.04）利用Anaconda创建虚拟环境1、安装Anaconda2、换源2.1 pip换源2.1.1 Windows更换源：2.1.2 Linux更换源：2.2 Anaconda换源2.2.1 Windows更换源：2.2.2 Linux更换源：3、创建虚拟环境附注问：为什么要创建虚拟环境呢？答：如果不创建，在b

在 Vision Transformer 和 CNNs 间总存在争论：哪个网络好。而本文将 Vision Transformer 视为带动态卷积的 CNNs，这能够将现有的 Transformer 和动态 CNNs 统一为一个框架并逐点比较它们的设计。从两个方面来论证上述的研究：检查了 vision Transformer 中 softmax 结构，发现其能够被广泛使用的 CNNs 模块代替，例如

Referring Image Segmentation 指代图像分割旨在在像素水平上分割出自然表达式所指的特定目标。最近一些基于 Transformer 的方法凭借着注意力机制生成上下文 query，虽然很是成功，但是未能理解复杂表达式中的上下文。于是本文受到 masked autoencoder (MAE) 的启发提出 bidirectional token-masking autoencod

思维链的效果在语言任务中发挥了重要作用，特别是在需要复杂的感知和推理的视觉-语言任务中。基于人类处理信号的过程，本文提出 “描述后再决定” 的策略。这一策略提升了大概 50% 的性能，为视觉-语言中的推理任务奠定了坚实的基础。

首先说明视觉语言预训练的目的、作用。指出目前在预训练阶段存在语言混淆问题，同时需要大量的计算资源在下游任务上微调。本文提出简单、有效的学习对比视觉语言的自适应表示方法CAVision andLanguage，即 CAVL。具体来说，在预训练过程中引入一组成对的对比损失来对齐整个句子和图像，在微调阶段引入两个轻量化的自适应网络来减少模型的参数及节约计算资源，加快训练速度。在 6 个数据集 VQA、V

本周更新的第二篇论文阅读，2023年每周一篇博文，还剩5篇未补，继续加油~论文地址：DynaMask: Dynamic Mask Selection for Instance Segmentation：https://arxiv.org/abs/2303.07868代码地址：https://github.com/lslrh/DynaMask收录于：CVPR 2023欢迎关注，主页更多干活，持续输出

Anaconda/pip 更换为阿里源，助力 conda create -n 虚拟环境搭建

首先表明细胞分割对于生物分析和癌症监视有着重要作用，接着指出现有的一些挑战：大量的半透明细胞簇重叠使得彼此边界混乱；原子核拟态和碎片存在混淆（太专业的术语不好翻译）。于是本文提出一种解耦合-重组策略：De-overlapping Network (DoNet)：提出一种双路径区域分割模块来显式地将细胞簇解耦合为交叉区域；提出一种重组模块来引导整合语义一致性的互补区域；