8G 显存能不能跑 7B？量化怎么选？一张对照表讲清楚，附 RTX 5070 Ti 实测速度。8G/12G/16G/24G 显存分档推荐 + 三个反直觉实测结论。

实测显示，用 qwen2.5:7b 作 LLM-as-Reranker，可将弱检索器（nomic）的 top-1 命中率从 3/5 提升至 5/5，成功捞回被误排的正确答案块，代价为每题多耗 10 秒。强检索器（bge-m3）加重排无副作用，仍保持满分。适用于对准确率要求高、响应速度不敏感的场景，如批量问答或知识库补救；但交互式应用不推荐。重排前 5 即可节省一半时间。Ollama 目前暂不支持原

Carsim2019安装教程