
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
从零开始微调大模型,部署智能体在网页
本文介绍了一个基于大模型的学术问答系统构建流程。首先收集PDF论文,通过MinerU转换为Markdown格式;然后使用EasyDataSet调用ollama大模型生成问答对并导出为JSON训练集;接着在Docker环境下部署LLaMA-Factory进行模型微调,包括环境配置、端口转发和WebUI访问;最后下载DeepSeek-R1等大模型,完成微调后通过Dify平台部署智能体应用。整个过程涵盖
conda部署vllm并且运行deepseek大模型
Windows部署的化要开启虚拟化下载wsl2,linux部署就要简单很多,可以采用docker或者conda来部署,conda比较容易并且也是隔离的环境。
到底了







