logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

从零到一!Qwen7B医疗大模型完整落地:QLoRA微调→量化→Ollama本地部署实战

本文从零开始完整记录通用大模型垂直医疗私有化落地全流程。基于Qwen2.5-7B基座,使用LLaMA-Factory完成QLoRA医疗SFT微调、模型合并、GGUF量化压缩,最终通过Ollama实现本地离线部署。全程个人设备可跑、低成本、高复用,附带原版模型VS微调模型硬核对照测试,直观验证微调效果,适合所有新手入门大模型微调落地。关键词:大模型微调、Qwen7B、医疗大模型、QLoRA、llam

#人工智能
到底了