GitHub_Trending/lm/lms:LM Studio命令行工具使用教程

【免费下载链接】lms LM Studio in your terminal 【免费下载链接】lms 项目地址: https://gitcode.com/GitHub_Trending/lm/lms

你还在为无法高效管理本地大模型而烦恼吗?本文将带你快速掌握LM Studio命令行工具(lms)的核心功能,从安装到高级模型管理,让你轻松玩转本地AI模型!读完本文,你将学会启动本地服务器、管理模型加载状态、查看资源使用情况等实用技能。

安装与基础配置

LM Studio命令行工具(lms)已集成在LM Studio 0.2.22及以上版本中。如果无法直接运行命令,可通过以下方式安装:

npx lmstudio install-cli

安装完成后,打开新终端验证安装是否成功:

lms

若安装成功,将显示lms的命令帮助信息。完整安装流程可参考README.md

核心命令速览

lms提供了丰富的子命令,以下是最常用的几个:

命令 功能描述
lms status 检查LM Studio服务状态
lms server start 启动本地API服务器
lms server stop 停止本地API服务器
lms ls 列出所有已下载模型
lms ps 列出所有已加载模型
lms load <模型路径> 加载指定模型
lms unload <模型标识符> 卸载指定模型

要查看所有命令的详细说明,可使用:

lms --help

本地服务器管理

本地服务器是lms工具与LM Studio交互的核心组件,负责处理模型加载、推理等任务。

启动服务器

lms server start --port 1234 --cors
  • --port:指定服务器端口(默认使用上次启动端口或默认端口)
  • --cors:启用CORS支持,允许网页应用访问服务器

服务器启动逻辑在src/subcommands/server.ts中实现,主要通过startHttpServer方法启动服务并验证端口可用性。

停止服务器

lms server stop

查看服务器状态

lms server status
# 或使用JSON格式输出
lms server status --json

服务器状态检查会读取配置文件(通常位于LM Studio配置目录),判断服务是否正在运行。

模型管理实战

查看模型列表

查看所有已下载模型:

lms ls
# 仅显示LLM模型
lms ls --llm
# 仅显示嵌入模型
lms ls --embedding
# 显示模型变体
lms ls --variants

输出示例:

LLM
model-key-1                     7B      Llama  4.2GB   ✓ LOADED
model-key-2                     13B     Mistral 8.1GB   

查看所有已加载模型:

lms ps

模型列表功能由src/subcommands/list.ts实现,通过listDownloadedModelslistLoaded方法获取模型信息并格式化输出。

加载模型

基本加载命令:

lms load model-key-1

高级选项:

# 自动确认并使用最大GPU加速
lms load model-key-1 -y
# 指定GPU offload比例(0-1或"max")
lms load model-key-1 --gpu 0.5
# 设置上下文长度
lms load model-key-1 --context-length 4096
# 设置模型标识符
lms load model-key-1 --identifier my-custom-id

加载模型前可先估算资源需求:

lms load model-key-1 --estimate-only

输出示例:

Model: model-key-1
Context Length: 4096
GPU Offload: 50%
Estimated GPU Memory:   4.2GB
Estimated Total Memory: 8.3GB
This model may be loaded based on your resource guardrails settings.

模型加载逻辑在src/subcommands/load.ts中实现,通过loadModel方法处理模型加载流程,并提供进度条显示。

卸载模型

# 卸载指定模型
lms unload my-custom-id
# 卸载所有模型
lms unload --all

高级应用场景

资源估算与优化

使用--estimate-only选项可以在不实际加载模型的情况下估算资源需求,帮助你选择合适的模型和参数配置:

lms load model-key-1 --context-length 8192 --gpu max --estimate-only

估算逻辑会根据模型架构、参数数量、上下文长度等因素计算所需的GPU和总内存。

自动化脚本示例

以下是一个简单的模型加载与推理脚本示例:

#!/bin/bash
# 启动服务器
lms server start --port 1234 &
# 等待服务器启动
sleep 5
# 加载模型
lms load model-key-1 -y --identifier my-model
# 执行推理任务(此处省略具体推理命令)
# ...
# 完成后卸载模型并停止服务器
lms unload my-model
lms server stop

常见问题解决

服务器启动失败

  1. 检查端口是否被占用:
# 查找占用端口的进程
netstat -tulpn | grep 1234
# 或使用lsof
lsof -i :1234
  1. 尝试更换端口:
lms server start --port 1235

模型加载失败

  1. 检查资源是否充足:使用--estimate-only估算资源需求
  2. 降低GPU offload比例:--gpu 0.5
  3. 减小上下文长度:--context-length 2048

命令无响应

  1. 检查LM Studio是否已安装并更新到最新版本
  2. 重新安装CLI工具:npx lmstudio install-cli
  3. 查看日志:lms log stream

总结与展望

LM Studio命令行工具(lms)为本地大模型管理提供了便捷高效的解决方案,通过本文介绍的服务器管理、模型加载、资源估算等功能,你可以轻松驾驭各种本地AI模型。

后续我们将推出更多高级教程,包括模型性能调优、批量操作脚本编写等内容。如果你有任何问题或建议,欢迎参与项目贡献,详情请参考CONTRIBUTING.md

记得点赞、收藏本文,关注我们获取更多LM Studio使用技巧!

【免费下载链接】lms LM Studio in your terminal 【免费下载链接】lms 项目地址: https://gitcode.com/GitHub_Trending/lm/lms

Logo

免费领 200 小时云算力,进群参与显卡、AI PC 幸运抽奖

更多推荐