GitHub_Trending/lm/lms:LM Studio命令行工具使用教程
GitHub_Trending/lm/lms:LM Studio命令行工具使用教程
【免费下载链接】lms LM Studio in your terminal 项目地址: https://gitcode.com/GitHub_Trending/lm/lms
你还在为无法高效管理本地大模型而烦恼吗?本文将带你快速掌握LM Studio命令行工具(lms)的核心功能,从安装到高级模型管理,让你轻松玩转本地AI模型!读完本文,你将学会启动本地服务器、管理模型加载状态、查看资源使用情况等实用技能。
安装与基础配置
LM Studio命令行工具(lms)已集成在LM Studio 0.2.22及以上版本中。如果无法直接运行命令,可通过以下方式安装:
npx lmstudio install-cli
安装完成后,打开新终端验证安装是否成功:
lms
若安装成功,将显示lms的命令帮助信息。完整安装流程可参考README.md。
核心命令速览
lms提供了丰富的子命令,以下是最常用的几个:
| 命令 | 功能描述 |
|---|---|
lms status |
检查LM Studio服务状态 |
lms server start |
启动本地API服务器 |
lms server stop |
停止本地API服务器 |
lms ls |
列出所有已下载模型 |
lms ps |
列出所有已加载模型 |
lms load <模型路径> |
加载指定模型 |
lms unload <模型标识符> |
卸载指定模型 |
要查看所有命令的详细说明,可使用:
lms --help
本地服务器管理
本地服务器是lms工具与LM Studio交互的核心组件,负责处理模型加载、推理等任务。
启动服务器
lms server start --port 1234 --cors
--port:指定服务器端口(默认使用上次启动端口或默认端口)--cors:启用CORS支持,允许网页应用访问服务器
服务器启动逻辑在src/subcommands/server.ts中实现,主要通过startHttpServer方法启动服务并验证端口可用性。
停止服务器
lms server stop
查看服务器状态
lms server status
# 或使用JSON格式输出
lms server status --json
服务器状态检查会读取配置文件(通常位于LM Studio配置目录),判断服务是否正在运行。
模型管理实战
查看模型列表
查看所有已下载模型:
lms ls
# 仅显示LLM模型
lms ls --llm
# 仅显示嵌入模型
lms ls --embedding
# 显示模型变体
lms ls --variants
输出示例:
LLM
model-key-1 7B Llama 4.2GB ✓ LOADED
model-key-2 13B Mistral 8.1GB
查看所有已加载模型:
lms ps
模型列表功能由src/subcommands/list.ts实现,通过listDownloadedModels和listLoaded方法获取模型信息并格式化输出。
加载模型
基本加载命令:
lms load model-key-1
高级选项:
# 自动确认并使用最大GPU加速
lms load model-key-1 -y
# 指定GPU offload比例(0-1或"max")
lms load model-key-1 --gpu 0.5
# 设置上下文长度
lms load model-key-1 --context-length 4096
# 设置模型标识符
lms load model-key-1 --identifier my-custom-id
加载模型前可先估算资源需求:
lms load model-key-1 --estimate-only
输出示例:
Model: model-key-1
Context Length: 4096
GPU Offload: 50%
Estimated GPU Memory: 4.2GB
Estimated Total Memory: 8.3GB
This model may be loaded based on your resource guardrails settings.
模型加载逻辑在src/subcommands/load.ts中实现,通过loadModel方法处理模型加载流程,并提供进度条显示。
卸载模型
# 卸载指定模型
lms unload my-custom-id
# 卸载所有模型
lms unload --all
高级应用场景
资源估算与优化
使用--estimate-only选项可以在不实际加载模型的情况下估算资源需求,帮助你选择合适的模型和参数配置:
lms load model-key-1 --context-length 8192 --gpu max --estimate-only
估算逻辑会根据模型架构、参数数量、上下文长度等因素计算所需的GPU和总内存。
自动化脚本示例
以下是一个简单的模型加载与推理脚本示例:
#!/bin/bash
# 启动服务器
lms server start --port 1234 &
# 等待服务器启动
sleep 5
# 加载模型
lms load model-key-1 -y --identifier my-model
# 执行推理任务(此处省略具体推理命令)
# ...
# 完成后卸载模型并停止服务器
lms unload my-model
lms server stop
常见问题解决
服务器启动失败
- 检查端口是否被占用:
# 查找占用端口的进程
netstat -tulpn | grep 1234
# 或使用lsof
lsof -i :1234
- 尝试更换端口:
lms server start --port 1235
模型加载失败
- 检查资源是否充足:使用
--estimate-only估算资源需求 - 降低GPU offload比例:
--gpu 0.5 - 减小上下文长度:
--context-length 2048
命令无响应
- 检查LM Studio是否已安装并更新到最新版本
- 重新安装CLI工具:
npx lmstudio install-cli - 查看日志:
lms log stream
总结与展望
LM Studio命令行工具(lms)为本地大模型管理提供了便捷高效的解决方案,通过本文介绍的服务器管理、模型加载、资源估算等功能,你可以轻松驾驭各种本地AI模型。
后续我们将推出更多高级教程,包括模型性能调优、批量操作脚本编写等内容。如果你有任何问题或建议,欢迎参与项目贡献,详情请参考CONTRIBUTING.md。
记得点赞、收藏本文,关注我们获取更多LM Studio使用技巧!
【免费下载链接】lms LM Studio in your terminal 项目地址: https://gitcode.com/GitHub_Trending/lm/lms
更多推荐


所有评论(0)