
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
本文介绍了DeepSeek-R1满血版1.58Bit模型的落地部署过程。采用Unsloth+KTransformer方案进行动态量化,预计占用显存10G-16G,内存约60G。部署中遇到flash-attention下载中断、GCC版本过高、CUDA版本冲突等问题,通过软链接解决libcudart缺失、降级GCC至12版本等方式处理。最终因CUDA版本冲突,建议采用Docker方案实现多版本共存。

本文记录了在Docker容器中部署deepseek-R1 1.58Bit大模型的过程。作者首先清理了无关Docker容器,新建容器并挂载必要路径,但在安装Anaconda和构建虚拟环境时遇到代理配置错误。通过排查发现环境变量中的无效代理设置,清除后解决了apt更新问题。随后尝试安装NVIDIA驱动535版本以支持CUDA 12.1,但出现"Failed to initialize NVM

YOLO模型训练过程关键评价指标记录

摘要:PnP(Perspective-n-Point)和多视角三角化是2D到3D映射的关键技术。PnP通过已知3D-2D点对应关系求解相机位姿,确定相机在3D空间中的位置和姿态,而非直接映射2D点到3D坐标。多视角三角化则通过多个摄像头在同一时刻对同一物体的2D观测,融合为3D世界坐标信息。两者共同解决了从2D图像重建3D场景的问题,在人员轨迹生成等项目中具有重要应用。

音频标注开源工具 Label Studio 安装教程

【 音频标注】- 音频标注项目调研

开源标注软件 AutoLabelImg 或 LabelImg安装 PyQt5 报错修复

本文介绍了DeepSeek-R1满血版1.58Bit模型的落地部署过程。采用Unsloth+KTransformer方案进行动态量化,预计占用显存10G-16G,内存约60G。部署中遇到flash-attention下载中断、GCC版本过高、CUDA版本冲突等问题,通过软链接解决libcudart缺失、降级GCC至12版本等方式处理。最终因CUDA版本冲突,建议采用Docker方案实现多版本共存。

本文分享了Docker安装部署的两个关键配置:1)镜像配置,通过在/etc/docker/daemon.json中添加DaoCloud和1ms的镜像源加速下载;2)DNS配置,建议修改/etc/systemd/resolved.conf文件,移除8.8.8.8,保留114DNS或改用阿里云DNS(223.5.5.5/223.6.6.6)。这两个配置解决了作者长期遇到的Docker安装卡顿问题,使安

本文介绍了基于Docker部署DeepSeek-R1大模型的具体过程。首先阐述了显卡驱动、CUDA Toolkit等基础概念及其在宿主机和容器中的层级关系。然后详细记录了部署步骤:包括创建新Docker容器、处理flash_attn安装包、解决Torch版本冲突等问题。文中特别指出AutoDL环境下持久化存储的特殊性,并提供了虚拟环境迁移和假nvcc脚本的解决方案。最后描述了ktransforme








