logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

DeepSeek-Math-7B部署笔记

该模型用于解决数学问题,7B参数与Float16的前提下,测试官方案例占用显存容量在9.5G至10.2G的情况。使用GPU加速回答时间基本上控制在10-30秒附近。

文章图片
DeepSeek-Math-7B部署笔记

该模型用于解决数学问题,7B参数与Float16的前提下,测试官方案例占用显存容量在9.5G至10.2G的情况。使用GPU加速回答时间基本上控制在10-30秒附近。

文章图片
到底了