logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

ubuntu 24.04 2080ti 安装大模型实践

以上额外的加了一个trusted-host=mirrors.aliyun.com 就是把阿里的加入导信任了,最终安装继续。前期花了很多时间在pve上安装,失败,怀疑显卡直通无法支持,因此我通过裸机的方式来安装。整体步骤上个帖子写了,可以一步到位完成。安全性跳过的方法是这样的。

文章图片
#ubuntu#linux#运维
deepseekV3 qwen2.5 72B横向测评

对大模型进行了相关测评

#语言模型
通过LM studio 在笔记本部署大模型

笔记本适合多大的大模型,笔记本适合用什么样的模型运行框架,这篇文章可以给你答案

文章图片
#语言模型
说说我对kubeode k8s一键部署工具的理解

kubeode 15分钟本土化快速部署一个k8s集群

文章图片
#大数据#云原生#容器 +2
windows安装gpu stack

紧接着,又出现了新状况,报错信息显示 “[ERROR] Failed to install GPUStack: ‘NVIDIA GPU detected but CUDA is not installed. Please install CUDA.’”。这可把我给急坏了,就像开车走到半路,突然发现少了个关键零件一样。我得先去搞定 CUDA 的安装,还得处理 Powershell 的权限问题,才能顺

文章图片
#windows
通过LM studio 在笔记本部署大模型

笔记本适合多大的大模型,笔记本适合用什么样的模型运行框架,这篇文章可以给你答案

文章图片
#语言模型
deepseekV3 qwen2.5 72B横向测评

对大模型进行了相关测评

#语言模型
ubuntu 24.04 2080ti 安装大模型实践

以上额外的加了一个trusted-host=mirrors.aliyun.com 就是把阿里的加入导信任了,最终安装继续。前期花了很多时间在pve上安装,失败,怀疑显卡直通无法支持,因此我通过裸机的方式来安装。整体步骤上个帖子写了,可以一步到位完成。安全性跳过的方法是这样的。

文章图片
#ubuntu#linux#运维
通过LM studio 在笔记本部署大模型

笔记本适合多大的大模型,笔记本适合用什么样的模型运行框架,这篇文章可以给你答案

文章图片
#语言模型
windows安装gpu stack

紧接着,又出现了新状况,报错信息显示 “[ERROR] Failed to install GPUStack: ‘NVIDIA GPU detected but CUDA is not installed. Please install CUDA.’”。这可把我给急坏了,就像开车走到半路,突然发现少了个关键零件一样。我得先去搞定 CUDA 的安装,还得处理 Powershell 的权限问题,才能顺

文章图片
#windows
    共 15 条
  • 1
  • 2
  • 请选择