这个论文的核心贡献是提出了一种新的注意力机制 HiLo（High / Low frequency）。如下图所示，在上面部分，分配了 1−α1-\alpha1−α 比例的 head 用于提取高频注意力，下面分配了 α\alphaα 比例的 head 用于提取低频注意力。高频注意力： 在2x2的窗口中计算attention。低频注意力： 将2x2的窗口池化，得到的特征做为 K 和 V。原始特征做为 Q

代码：https://github.com/TaoWangzj/LLFormer这个论文首先构建了ultra-high definition low-light （UHD-LOL）数据集，然后提出了 Low-Light Transformer (LLFormer)。LLFormer 的整体框架如下所示，可以看出和 Restormer 有些类似。我的理解，作者改进了三个点：1、Transformer

论文：https://readpaper.com/paper/4736105248993591297代码：https://github.com/cschenxiang/DRSformerTransformer 模型通常使用标准的 QKV 三件套进行计算，但是部分来自 K 的 token 与来自 Q 的 token 并不相关，如果仍然对这些 token 进行特征聚合计算会影响图像修复的性能。

部分配色从知乎 marsggbo 的文章转载，同时本文也会不断更新。一个好的配色某种程度上能把翔一样的论文雕出花来，这里做个总结分享。TIPS：想使用哪个颜色了，可以粘贴到PPT里，用吸管取色。或者用QQ截图，也能得到颜色的具体RGB值。个人感觉配色方案不需要太多，有三、五种供选择完全足够了。论文里用的最多的就是 红、绿、蓝、黄，可以从配色方案中选择，当需要更多时，可以在方案里找。配色1配色2配色