
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
文章摘要:该批处理脚本用于配置和启动一个名为Qwen3.6-35B-A3B-Uncensored的AI模型服务器,基于llama.cpp框架。脚本包含以下内容:1. 设置终端颜色变量;2. 定义模型文件、服务器程序和目录路径;3. 进行必要的文件检查;4. 显示模型信息和配置参数(包括CUDA 12.8、999层GPU加速、100K上下文长度等);5. 启动服务器命令,包含详细的运行参数(端口80

文章摘要:该批处理脚本用于配置和启动一个名为Qwen3.6-35B-A3B-Uncensored的AI模型服务器,基于llama.cpp框架。脚本包含以下内容:1. 设置终端颜色变量;2. 定义模型文件、服务器程序和目录路径;3. 进行必要的文件检查;4. 显示模型信息和配置参数(包括CUDA 12.8、999层GPU加速、100K上下文长度等);5. 启动服务器命令,包含详细的运行参数(端口80

NewModel("Granite-4.1-3B-Q4", "Granite-4.1-3B-Q4服务器.bat", "Granite 4.1 3B Q4", 8086),NewModel("Qwen3.5-4B-Q4", "Qwen3.5-4B-Q4服务器.bat", "Qwen 3.5 4B Q4", 8090),NewModel("Qwen3.5-4B-Q8", "Qwen3.5-4B-Q8服

NewModel("Granite-4.1-3B-Q4", "Granite-4.1-3B-Q4服务器.bat", "Granite 4.1 3B Q4", 8086),NewModel("Qwen3.5-4B-Q4", "Qwen3.5-4B-Q4服务器.bat", "Qwen 3.5 4B Q4", 8090),NewModel("Qwen3.5-4B-Q8", "Qwen3.5-4B-Q8服








