faiss 三个最基础的 index. 分别是IndexFlatL2,IndexIVFFlat,IndexIVFPQ一、IndexFlatL2 - 最基础的IndexIndexFlatL2索引的结果是精确的,可以用来作为其他索引测试中准确性程度的参考.搜索时，可以以查询向量为中心，返回距离在一定范围内的结果，如返回数据库中与查询向量距离小于0.3的结果。支持IndexFlat, IndexIVFF

本文介绍了在配备Tesla P100显卡（CUDA 12.0）的Ubuntu系统上编译支持GPU加速的FFmpeg 6.0的完整流程。关键步骤包括：安装编译依赖、匹配nv-codec-headers SDK 12.0版本、配置支持CUDA/NVENC/NVDEC的编译选项，以及安装验证。

我们来看一篇关于大型语言模型的知识蒸馏与数据集蒸馏的综述

今天看一篇关于知识蒸馏（Knowledge Distillation, KD）的全面综述

手把手教你在Windows上的安装openclaw！全面测评大龙虾！

玩过视频生成模型的朋友可能有过这样的疑问：“为什么可灵、即梦等视频生成模型只能生成大约10秒的视频？”要回答这个问题，我们首先需要了解当前主流的视频生成模型的结构。简而言之：无论多长的视频，都是“嗷”一下直接生成的；而不是一帧一帧逐步生成的。这样做的好处是可以保证内容的一致性，但也受到计算能力的限制，生成视频的长度也将受到限制。

现在有很多开源的大模型，他们一般都是通用的，这就意味着这些开源大模型在特定任务上可能力不从心。为了适应我们的下游任务，就需要对预训练模型进行微调。全参数微调有两个问题：在新的数据集上训练，会破坏大模型原来的能力，使其泛化能力急剧下降；而且现在的模型参数动辄几十亿上百亿，要执行全参数微调的话，他贵啊！！于是LoRA出现了，LoRA（Low-Rank Adaptation)是微软提出的一种参数有效的微

寻找合适的学习率(learning rate)学习率是一个非常非常重要的超参数，这个参数呢，面对不同规模、不同batch-size、不同优化方式、不同数据集，其最合适的值都是不确定的，我们无法光凭经验来准确地确定lr的值，我们唯一可以做的，就是在训练中不断寻找最合适当前状态的学习率。比如下图利用fastai中的lr_find()函数寻找合适的学习率，根据下方的学习率-损失曲线得到此时合适的学习率为

CBAM（Convolutional Block Attention Module）是2018年被提出的，不同于ViT的Attention，CBAM是为CNN量身定做的Attention模块，实现简单、效果好，你值得拥有。

小伙伴们在开源大模型社区浏览下载页面时，常能看到模型文件名后跟着"FP16""INT8"或"INT4"的后缀——比如"Llama3-8B-FP16"，或是标注为"INT4量化版"。这些看似神秘的字母组合，其实是模型参数的存储格式，直接影响着模型的内存占用、计算效率与性能表现。