开源网站

开源网站

它使用 LoRA 对 Baichuan2-7B 模型在法律 QA 数据集上进行了两次微调，并结合了高级 RAG（检索增强生成）流程实现深度搜索功能，提供了一个可交互的 Streamlit Web 界面。: BM25 (稀疏检索) + FAISS/BGE (稠密检索) -> RRF (多路召回融合) -> BGE-Reranker (精排) -> LLM (生成答案)此脚本将加载 Base 模型和

一个示例

打个比方，我当时跑到38100的时候由于不明原因卡退出去了，这时候把restore_iter改成38100，就能从38100开始继续跑，和pretreatment一样，跑完的时候会自己停，中途时间挺长，别乱动。就可以了，第一个print是输出你的torch+GPU是否存在，第二个输出torch+GPU版本，切记，一定要GPU版本的torch，就是torch版本+cu版本的这种形式，不然你后续代码跑