nanobot部署教程：Qwen3-4B-Instruct模型+Chainlit+QQ gateway全栈部署

1. nanobot简介

nanobot是一款受OpenClaw启发的超轻量级个人人工智能助手。这个项目最大的特点是极简高效，仅需约4000行代码即可提供核心代理功能，相比同类项目的430k多行代码减少了99%的代码量。

当前版本内置了vllm部署的Qwen3-4B-Instruct-2507模型，使用chainlit作为交互界面，并支持通过QQ gateway扩展为聊天机器人功能。你可以随时运行bash core_agent_lines.sh命令验证当前代码行数（实时行数：3510行）。

2. 环境准备与快速部署

2.1 系统要求

• 操作系统：推荐Ubuntu 20.04/22.04 LTS
• 显卡：NVIDIA GPU（建议显存≥16GB）
• 内存：≥32GB
• 存储：≥50GB可用空间

2.2 一键部署命令

# 克隆项目仓库
git clone https://github.com/sonhhxg0529/nanobot.git
cd nanobot

# 运行部署脚本
bash deploy.sh

部署过程会自动完成以下步骤：

1. 安装必要的系统依赖
2. 配置Python虚拟环境
3. 下载Qwen3-4B-Instruct模型权重
4. 启动vllm推理服务

3. 验证部署状态

3.1 检查模型服务

部署完成后，可以通过以下命令检查模型服务是否正常运行：

cat /root/workspace/llm.log

如果看到类似下面的输出，表示模型服务已成功启动：

INFO:     Started server process [1234]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://0.0.0.0:8000

3.2 测试chainlit交互界面

启动chainlit交互界面：

chainlit run app.py

在浏览器中打开http://localhost:8000，你将看到类似下图的交互界面：

4. 基本功能使用

4.1 提问测试

在chainlit界面中，你可以直接输入问题与nanobot交互。例如输入：

使用nvidia-smi看一下显卡配置

系统会返回类似下图的响应：

4.2 常用命令

nanobot支持多种系统命令执行和问答功能，以下是一些常用示例：

• 查看系统信息：查看当前系统状态
• 执行shell命令：执行ls -l /root
• 代码解释：解释这段Python代码：[你的代码]

5. 扩展功能：接入QQ机器人

5.1 注册QQ开发者账号

1. 访问QQ开放平台：https://q.qq.com/#/apps
2. 注册个人或企业开发者账号
3. 创建新的机器人应用

5.2 获取API凭证

在开发者后台的"开发管理"页面，复制AppID和AppSecret：

5.3 配置nanobot

编辑nanobot的配置文件：

vim /root/.nanobot/config.json

在配置文件中添加QQ机器人配置：

{
  "channels": {
    "qq": {
      "enabled": true,
      "appId": "YOUR_APP_ID",
      "secret": "YOUR_APP_SECRET",
      "allowFrom": []
    }
  }
}

将YOUR_APP_ID和YOUR_APP_SECRET替换为你获取的实际值。

5.4 启动gateway服务

nanobot gateway

成功启动后，你将看到类似下图的输出：

5.5 测试QQ机器人

现在你可以通过QQ向你的机器人提问，将收到类似下图的响应：

6. 常见问题解决

6.1 模型服务启动失败

如果模型服务无法启动，请检查：

• 显卡驱动是否正确安装
• 显存是否足够（至少16GB）
• 端口8000是否被占用

6.2 chainlit界面无法访问

确保：

• chainlit服务已正确启动
• 防火墙已放行8000端口
• 使用正确的访问地址（http://localhost:8000）

6.3 QQ机器人无响应

检查：

• AppID和AppSecret是否正确
• QQ开放平台的应用是否已审核通过
• gateway服务是否正常运行

7. 总结

通过本教程，你已经完成了：

1. nanobot核心系统的部署
2. Qwen3-4B-Instruct模型的vllm服务配置
3. chainlit交互界面的使用
4. QQ gateway机器人的接入

这个轻量级AI助手系统仅需约4000行代码，却提供了强大的功能，非常适合个人开发者和小型团队使用。你可以基于此项目进一步开发定制功能，或集成到自己的应用中。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。