来自 https://facebookresearch.github.io/xformers/components/ops.html#module-xformers.ops。好处：使用 google PALM 架构的小模型做 生成任务，改为 xformers 实现后，加速比为 2倍，显存消耗为原来的 1/3 ，非常给力。xformers 官方文档：https://facebookresearch.

很早前就想弄这东西，正好有空。这个东西可以很方便的缩放指定层或指定Tensor的梯度。与调整对应变量的学习率一个效果。Stylegan 里面 MapNet 使用了另外一种基于权重缩放的 学习率缩放方式，算了，效果差不多。有两个方便的方法可以实现。使用 Tensor.register_hook 来调整import torchx = torch.ones(1, dtype=torch.float32,

fid-helper-pytorchGithub 仓库地址：https://github.com/One-sixth/fid-helper-pytorchGitee 仓库地址：等待增加这是一个FID助手工具。提供了一个简单方便的接口来计算FID。仓库使用pytorch jit script来打包模型，包含了一个默认模型。:default_1 的模型和权重来自 styleganv3 fid tool

半精度浮点数表示的范围比单精度的少很多使网络输入 值域缩放到 [-1, 1] 或 [0, 1]定义Adam 或 RMSprop 优化器时，加入参数eps=1e-3optimizer = optim.Adam(model.parameters(), lr=0.001, eps=1e-3)...

发现的几个win10快捷键win + a —————— 通知中心 (要的是这个，后面是顺便按出来的)win + w—————– windows ink 工作区win + g —————— win10 游戏录制栏下面的 1 2 3 不是小键盘的数字键win + 1 —————— 切换任务栏 第一个窗-口win + 2 —————— 切换任务栏 第二个窗口win + 3...

换了个鼠标，发现了windows11窗口拖动极为缓慢，最初以为是某个更新补丁导致的问题。新鼠标是游戏鼠标，调整轮询率需要下载和安装该游戏鼠标驱动。打开发现了鼠标的默认轮询率是 1000，改到250。马上效果就出来了，拖动窗口立马就不缓慢了。后面在某个帖子找到了解决方法。win11 版本：21H2。

–前排提示：我鉴于网络问题并没有成功安装，下面的安装办法纯属搬运自deepin官网–装了一下 deepin 15.3 系统，感觉焕然一新，无奈deepin 15.3 在我的电脑上水土不服，动不动就死机，崩溃，进不了桌面。。。可能是不兼容 6代 Intel CPU 所致。。。没办法。。。只能继续用 ubuntu 了官方已经给出了 ubuntu 安装 deepin 的桌面环境的办法了，可惜太不...

尝试用远程桌面，跨网域公网连接。还遇到了连上后卡顿，画面卡死，还不如向日葵快。结果发现是公网的udp丢包严重，而这个远程桌面又会自动udp连接。得手动改为tcp连接，画面才变得流畅。[求助] 用win11 24H2 远程桌面卡还容易断线。一个脚本解决，需要 powershell 管理员权限。Windows远程桌面连接经常卡死解决办法。更改计算机上的远程桌面的侦听端口。选择 RDP 传输协议。

换了个鼠标，发现了windows11窗口拖动极为缓慢，最初以为是某个更新补丁导致的问题。新鼠标是游戏鼠标，调整轮询率需要下载和安装该游戏鼠标驱动。打开发现了鼠标的默认轮询率是 1000，改到250。马上效果就出来了，拖动窗口立马就不缓慢了。后面在某个帖子找到了解决方法。win11 版本：21H2。

–前排提示：我鉴于网络问题并没有成功安装，下面的安装办法纯属搬运自deepin官网–装了一下 deepin 15.3 系统，感觉焕然一新，无奈deepin 15.3 在我的电脑上水土不服，动不动就死机，崩溃，进不了桌面。。。可能是不兼容 6代 Intel CPU 所致。。。没办法。。。只能继续用 ubuntu 了官方已经给出了 ubuntu 安装 deepin 的桌面环境的办法了，可惜太不...