logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

在AutoDL上体验Qwen3:从点开AutoDL到跑出第一句回复

在AutoDL平台上运行Qwen3-30B-A3B模型的实战记录:选择H20-NVLink 96GB显存GPU,扩容数据盘至70GB后,通过ModelScope和vllm两种方式成功部署模型。测试结果显示推理速度可达51.5 tokens/s,显存占用约85GB。文章详细记录了从GPU选型、环境配置到模型加载的全过程,并提供了关键参数估算公式,为类似大模型推理任务提供参考。

#python#人工智能
在AutoDL上体验Qwen3:从点开AutoDL到跑出第一句回复

在AutoDL平台上运行Qwen3-30B-A3B模型的实战记录:选择H20-NVLink 96GB显存GPU,扩容数据盘至70GB后,通过ModelScope和vllm两种方式成功部署模型。测试结果显示推理速度可达51.5 tokens/s,显存占用约85GB。文章详细记录了从GPU选型、环境配置到模型加载的全过程,并提供了关键参数估算公式,为类似大模型推理任务提供参考。

#python#人工智能
VSCode C++多文件编译(最简单的方法)

C++中编写类时往往会分成.h和.cpp方便代码编写,这篇文章就来讲讲VSCode中怎么进行多文件编译。1.安装插件为了方便编译需要安装图中插件,不过相信写C++的应该都安装了吧。2.原因分析及解决思路当我们按单文件编译方法直接进行多文件编译的时候会出现报错在报错中指出我们类中的成员函数未定义,这是因为我们实现成员函数的cpp文件为被编译。VSCode其实是通过通过插件自动的编译命令并运行。编译指

#c++#vscode
树莓派(Raspberry Pi) Pico VSCode C/C++开发环境配置(无需Visual Studio)

此教程可以不从Visual Studio启动,详情请直接看第三部分。1.安装必要工具ARM GCC compiler 下载地址下载exe安装版进行安装2.CMake 下载地址安装完成后并把cmake添加到环境变量中。3.VSCode(相信大家都会装)4.Python安装教程5.Git 下载地址此处默认编辑器其实选什么都行,实际使用中用的不多。安装过程中都某些选项有疑问直接按默认的安装就行,也可以自

#开发工具
到底了