
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
摘要:本文详细介绍了在WSL环境下使用SGLang部署Qwen3.5-9B大语言模型的完整流程,特别针对6GB显存的3060笔记本显卡进行了优化配置。关键步骤包括:安装CUDA加速版SGLang、选择4-bit量化模型、通过offload-model参数实现GPU/CPU内存平衡分配(建议0.65),以及调整max-seq-len等参数确保显存不溢出。文章还提供了测试API的方法和常见问题解决方案
摘要:本文详细介绍了在WSL环境下使用SGLang部署Qwen3.5-9B大语言模型的完整流程,特别针对6GB显存的3060笔记本显卡进行了优化配置。关键步骤包括:安装CUDA加速版SGLang、选择4-bit量化模型、通过offload-model参数实现GPU/CPU内存平衡分配(建议0.65),以及调整max-seq-len等参数确保显存不溢出。文章还提供了测试API的方法和常见问题解决方案
摘要:本文详细介绍了在WSL环境下使用SGLang部署Qwen3.5-9B大语言模型的完整流程,特别针对6GB显存的3060笔记本显卡进行了优化配置。关键步骤包括:安装CUDA加速版SGLang、选择4-bit量化模型、通过offload-model参数实现GPU/CPU内存平衡分配(建议0.65),以及调整max-seq-len等参数确保显存不溢出。文章还提供了测试API的方法和常见问题解决方案
这篇文章介绍了一个名为/set_ssh的Claude自定义命令,它能帮助开发者在Windows本地环境与Linux远程服务器之间建立便捷的映射关系。该命令通过交互式向导引导用户配置4个核心参数(服务器别名、Conda环境名、本地和远程项目路径),实现自动路径转换和安全执行远程命令。配置完成后,开发者可以像操作本地文件一样运行远程服务器上的代码,Claude会自动将Windows路径转换为Linux
这篇文章介绍了一个名为/set_ssh的Claude自定义命令,它能帮助开发者在Windows本地环境与Linux远程服务器之间建立便捷的映射关系。该命令通过交互式向导引导用户配置4个核心参数(服务器别名、Conda环境名、本地和远程项目路径),实现自动路径转换和安全执行远程命令。配置完成后,开发者可以像操作本地文件一样运行远程服务器上的代码,Claude会自动将Windows路径转换为Linux







