logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

深度学习笔记(第二版)

本质:100个可学习的embedding向量(随机初始化的参数)作用:代表100个"对象槽位",每个query负责在图像中寻找一个对象输出:每个query预测 → 类别(包括"无对象"类∅)+ 边界框7.7个对象对象数 < 30个100个是工程上的最优选择(覆盖率vs计算效率)图像↓ Encoder图像特征(K, V)↓ Cross-Attention (Q来自queries)Queries融合图

深度学习笔记第三版

这四个值构成了神经网络训练的完整闭环——前向传播计算输出(z→a),反向传播计算梯度(∂L/∂a→∂L/∂z→∂L/∂W)!:梯度 = 激活函数导数 × 前一层误差,导数决定了梯度传播效率!

#深度学习#人工智能
深度学习第四版

一、核心符号定义符号含义θ模型参数g_t第 t 步的梯度,即 ∂L/∂θm_t一阶动量(梯度的指数加权平均)v_t二阶动量(梯度平方的指数加权平均)η学习率β₁一阶动量衰减系数,通常 0.9β₂二阶动量衰减系数,通常 0.999ε防止除零的极小常数,通常 1e-8二、Adam 的三步计算第一步:更新一阶动量对梯度本身做指数加权平均。作用:给梯度加惯性。连续多步梯度方向一致(比如一直为正)→ m_t

#深度学习#人工智能
深度学习环境搭配以及CUDA的runtime

如果你要用 MMCV、MMSegmentation、某些老版本 Restormer/BasicSR,它们对 CUDA/PyTorch 版本有要求,优先服从这些依赖。只有当你要编译 CUDA 代码(比如 MMCV 自定义算子、DCN、某些自编译的 CUDA kernel)时,才需要装完整的。源码没有预编译版本匹配你的环境,pip 就会在你本地现场调用 nvcc 编译,这时候你机器没 Toolkit(

#深度学习#人工智能
Docker和虚拟机

镜像是一种"包",但和代码包的区别在于——它不只包含你的代码,还包含了一整套"能让这些代码跑起来的环境":操作系统层、系统库、CUDA、Python、依赖包、模型权重、启动配置。你可能用过 VMware 或 VirtualBox——如果你从朋友那里拷来一个 Windows 虚拟机镜像,打开就是一个完整的 Windows 系统,里面装好的软件、文件、设置都在。,剩下的 99.999% 都是为了让你的

#docker#容器#运维
docker安装和使用

WSL 的作用,是让你在 Windows 里直接拥有一个可用的 Linux 环境,所以你不用重装双系统,也不用单独开一台完整虚拟机,就能使用 Linux 命令、安装开发环境、运行很多原本更适合 Linux 的工具。而在 Linux 上,系统本身就已经是 Docker 需要的环境了,所以一般直接安装 Docker Engine 就可以,不一定非要装 Docker Desktop。微软的代理排查文档明

#docker#容器#运维
深度学习专有名称发音

这一类是你最应该优先背的。

#深度学习#人工智能
深度学习环境搭配以及CUDA的runtime

如果你要用 MMCV、MMSegmentation、某些老版本 Restormer/BasicSR,它们对 CUDA/PyTorch 版本有要求,优先服从这些依赖。只有当你要编译 CUDA 代码(比如 MMCV 自定义算子、DCN、某些自编译的 CUDA kernel)时,才需要装完整的。源码没有预编译版本匹配你的环境,pip 就会在你本地现场调用 nvcc 编译,这时候你机器没 Toolkit(

#深度学习#人工智能
docker安装和使用

WSL 的作用,是让你在 Windows 里直接拥有一个可用的 Linux 环境,所以你不用重装双系统,也不用单独开一台完整虚拟机,就能使用 Linux 命令、安装开发环境、运行很多原本更适合 Linux 的工具。而在 Linux 上,系统本身就已经是 Docker 需要的环境了,所以一般直接安装 Docker Engine 就可以,不一定非要装 Docker Desktop。微软的代理排查文档明

#docker#容器#运维
深度学习专有名称发音

这一类是你最应该优先背的。

#深度学习#人工智能
    共 18 条
  • 1
  • 2
  • 请选择