由于在cpu上使用对向量检索算法时，发现面对数据量较大时，批量匹配耗时会显著增加，影响业务整体响应。便尝试使用GPU来实现检索计算，限于本人技术有限，写不出好算法。便取巧利用Faiss-gpu来检索(* ^ ▽ ^ *)以下是安装记录~

众所周知，大语言模型在落地应用时会遇到各种各样的问题。而其中模型的“致幻性”是非常可怕。目前主流之一的玩法就是通过知识库对回答范围进行限制。本来想等langchain-ChatChat大佬们的0.3.0版本。等待是折磨的，那不如在等待的时候，自己来瞎折腾玩玩。为了快速跑通，目前大家比较喜欢的就是用langchain来把Embedding模型和向量数据库和LLM模型串联起来。

本篇使用的yolo5模型大小为yolov5l由于需要识别一图片些细小的物体，我在Ultralytics的yolov5添加了一些注意力机制，但本次不会展开说，因为添加注意力前后对我们训练和预测的操作流程都没有任何影响。训练+预测至此结束咯~~