nanobot部署教程：Qwen3-4B-Instruct模型vLLM配置、Chainlit集成与调试

1. nanobot简介

nanobot是一款受OpenClaw启发的超轻量级个人人工智能助手，仅需约4000行代码即可提供核心代理功能，比同类产品的430k多行代码精简了99%。这个轻量级设计使得nanobot在资源占用和部署效率上具有显著优势。

你可以随时运行以下命令验证当前代码行数：

bash core_agent_lines.sh

2. 环境准备与vLLM部署

2.1 系统要求

确保你的系统满足以下最低配置：

• 操作系统：Ubuntu 20.04或更高版本
• GPU：NVIDIA显卡（建议RTX 3090或更高）
• 显存：至少16GB
• 内存：32GB或更高
• 存储：50GB可用空间

2.2 vLLM模型部署

Qwen3-4B-Instruct模型已经预置在nanobot中，部署完成后可以通过以下命令检查服务状态：

cat /root/workspace/llm.log

成功部署后，日志中会显示类似以下内容：

vLLM engine initialized
Model loaded successfully
API server started on port 8000

3. Chainlit集成与使用

3.1 Chainlit界面启动

nanobot已经内置了Chainlit集成，启动后可以通过Web界面与模型交互。界面会显示清晰的对话历史和模型响应。

3.2 基本提问示例

在Chainlit界面中，你可以直接输入问题与模型交互。例如：

使用nvidia-smi看一下显卡配置

模型会返回详细的显卡信息，包括：

• GPU型号
• 显存使用情况
• 计算单元利用率
• 温度等信息

4. 扩展功能：QQ机器人集成

4.1 QQ开发者平台准备

1. 访问QQ开放平台（https://q.qq.com/#/apps）注册开发者账号
2. 创建新的机器人应用
3. 获取AppID和AppSecret

4.2 nanobot配置修改

编辑配置文件添加QQ机器人支持：

vim /root/.nanobot/config.json

在配置文件中添加或修改以下部分：

{
  "channels": {
    "qq": {
      "enabled": true,
      "appId": "YOUR_APP_ID",
      "secret": "YOUR_APP_SECRET",
      "allowFrom": []
    }
  }
}

4.3 启动网关服务

配置完成后，启动nanobot的gateway服务：

nanobot gateway

服务启动成功后，你就可以通过QQ机器人直接向nanobot提问了。

5. 常见问题排查

5.1 模型服务未启动

如果模型服务没有正常启动，可以检查：

1. 显存是否足够
2. 端口8000是否被占用
3. 模型文件是否完整

5.2 Chainlit界面无法访问

确保：

1. Chainlit服务已启动
2. 防火墙设置允许访问
3. 端口未被其他服务占用

5.3 QQ机器人无响应

检查：

1. AppID和AppSecret是否正确
2. 网络连接是否正常
3. nanobot gateway服务是否运行

6. 总结

通过本教程，你已经完成了：

1. nanobot的基本部署
2. Qwen3-4B-Instruct模型的vLLM配置
3. Chainlit交互界面的使用
4. QQ机器人的集成配置

nanobot作为一个轻量级AI助手，提供了灵活的部署方式和丰富的扩展接口。你可以根据自己的需求进一步定制和扩展其功能。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。