# 从V9v3到建木Agent OS:技术方案与当前进展
## 摘要
本文记录一个技术设想:将操作系统设计为多层Agent协作系统,以可穿戴设备为起点进行工程验证。前置工作是V9v3(3.15M参数的中文嵌入模型)的边缘部署测试与生成能力验证,当前工作是在此基础上设计更轻量的模型,并规划一个以"信息素场"为通信机制的Agent OS原型。
---
## 一、V9v3的测试结果
### 1.1 嵌入能力
V9v3在六个维度上完成了边缘设备测试:
| 维度 | V9v3 | bge-m3(567M) |
|------|------|---------------|
| 推理速度(C版) | **2.84ms** | ~114ms |
| 语义区分余量 | **0.5052** | 0.4926 |
| 文件体积 | **12.3MB** | ~1.2GB |
| 外部依赖 | **无(libc即可)** | Ollama + PyTorch |
| 1000轮稳定性 | **无崩溃** | 存在NaN崩溃 |
| 2G网络传输 | **8分钟** | 13.3小时 |
核心结论:在嵌入任务上,3M参数级别的专用模型可以在边缘设备上替代大模型。
### 1.2 生成能力实验(P0验证)
V9v3的底层架构在实验条件下验证了自回归生成可行性——同一套网络结构可以同时产出向量和预测下一个token。
| 实验 | 结果 |
|------|------|
| 单token预测 | **收敛**(Loss 8.1→2.27,准确率81.5%) |
| 中文续写 | **可产出中文序列**("光合作用,但是一些的……") |
| 联合训练 | **最佳Loss 3.30,最佳Acc 27.3%** |
但注意:这只是P0实验验证,生成质量远未达到可用水平。目前生产角色仍是嵌入模型。
---
## 二、V9v3-lite设计
### 2.1 目标参数
V9v3-lite不是V9v3的剪裁版,而是重新设计的模型。核心思路是将V9v3作为教师模型进行知识蒸馏,同时在架构上做针对性调整。
| 指标 | V9v3(基线) | V9v3-lite(目标) |
|------|-------------|-------------------|
| 参数量 | 3.15M | 1.5M |
| 输出维度 | 1024 | 256 |
| 词表大小 | 4096 | 2048 |
| 层数 | 6 | 4 |
| 文件体积(FP32) | 12.3MB | ~6MB |
| 文件体积(INT8量化后) | — | 预期<2MB |
| 推理延迟 | 2.84ms | 预期<3ms |
| 内存占用 | ~50MB | 预期<20MB |
| 区分余量 | 0.5052 | 预期>0.35 |
### 2.2 训练方法
采用知识蒸馏。训练数据是专门构造的"用户指令-意图"对,覆盖语音笔记、健康查询、闹钟设置、运动模式等场景。
种子语料120条,计划扩展到5000条以上,采用CC-BY-4.0许可开放。
---
## 三、建木Agent OS的架构设想
### 3.1 基本概念
将操作系统设计为Agent的集合,而非传统的进程-调度器二级结构。每个可独立运行的组件都被设计为具有局部目标和通信能力的Agent。
### 3.2 五层结构
| 层级 | 职责 | 示例 |
|------|------|------|
| 用户层 | 意图感知 | 语音输入、抬腕检测、手势 |
| 系统层 | Agent协调 | 建木核心,管理信息素场 |
| 进程层 | 任务执行 | 语音笔记Agent、健康Agent |
| 内核层 | 资源管理 | 电池策略Agent、传感器调度Agent |
| 硬件层 | 物理抽象 | NPU推理Agent、显示Agent |
### 3.3 通信机制:信息素场
Agent之间共享一个带浓度和时间戳的标记空间,而非传统消息队列。
核心规则:
- Agent完成任务后写入标记(任务类型、成功/失败、置信度)
- 浓度随时间衰减,由定时器驱动
- 其他Agent按浓度做概率决策
- 低浓度标记自动清除
手表上的实现:32个槽位的全局数组,10Hz定时器衰减,原子操作写入:
```c
typedef struct {
char key[32];
float concentration;
uint32_t timestamp;
} PheromoneSlot;
PheromoneSlot field[32];
void decay_task() {
for (int i = 0; i < 32; i++) {
if (field[i].concentration > 0.01f)
field[i].concentration *= 0.99f;
}
}
```
### 3.4 Agent决策流程
```
用户输入:"提醒我明天买牛奶"
↓
[V9v3] 文本→向量 → [0.23, -0.45, ... 1024维] ← V9v3只做这一步
↓
[知识树] MoE路由 → 命中"提醒-日程"节点 ← 建木组件
↓
[多速源池] 读出该节点的历史上下文 ← 建木组件
↓
[太极引擎] 四象判定 → 偏阴(收敛执行) ← 建木组件
↓
输出结构化动作:{"action":"create_reminder",...} ← 建木组件
```
V9v3只做**文本→向量**这一步。其余环节是围绕V9v3构建的建木系统组件——知识树做路由、源池做记忆、太极引擎做决策。它们组合在一起构成Agent链路,但V9v3本身只是一个嵌入接口。
### 3.5 学习机制:时间分段
- **活跃态**:正常推理+Agent协商,50ms内响应
- **静默态**(睡眠/未使用):CPU降频,遍历当日信息素日志,清除低价值路径,更新习惯权重
- **充电态**(连接电源):可选的模型参数微调,联邦学习同步(仅用户授权下)
---
## 四、选择手表作为首个验证平台
### 4.1 市场缺口
按操作系统划分的智能手表市场:
| 系统 | 代表 | 份额 | Agent能力 |
|------|------|------|-----------|
| watchOS | Apple | ~35% | 传统OS + Siri |
| 鸿蒙 | 华为 | ~21% | 传统OS + 语音助手 |
| Wear OS | Google | ~20% | 传统OS + Assistant |
| RTOS | 中小品牌 | ~50% | **无** |
约一半智能手表运行各类RTOS,这些设备目前没有任何Agent化能力。
### 4.2 硬件约束(手表上跑AI的真实天花板)
手表不是手机,它的硬件限制比大多数人想象的更紧:
| 资源 | RTOS手表(真实目标) | 旗舰手表(如Apple Watch) |
|------|---------------------|------------------------|
| 电池 | **200-400mAh** | 300-500mAh |
| CPU | **Cortex-M4/M7@100-200MHz** | 双核A系列 |
| RAM | **64-512KB** | 512MB-1GB |
| 存储 | **4-16MB闪存** | 8-32GB |
| 续航 | 7-30天 | 1-3天 |
V9v3分两层部署策略:
**旗舰手表层**(HarmonyOS、Wear OS):
- 跑完整V9v3(12.3MB/C版,约50MB运行时内存)
- 适合有>100MB可用空间、>512MB RAM的设备
- 跑完整知识树+信息素场+Agent框架
**RTOS手表层**(公模白牌手表):
- 跑V9v3-lite INT8量化版(<2MB,约8MB运行时内存)
- 只需64KB RAM + 4MB闪存即可运行
- 指令精简到核心场景(语音笔记+闹钟+健康),不做通用推理
- 信息素场缩减到8槽位,知识树剪枝到单层
关键功耗差异(针对全模型推理链路,不只是嵌入):
- Transformer的一次自注意力计算 = O(n²·d) FLOPs
- 本架构(CubicStack+源池)一次前向 = O(n·d) FLOPs,同等条件下约低2-5倍
- 仅嵌入部分(V9v3一次forward):2.84ms,约**0.014mAh**——一块200mAh电池可做约**14,000次**
如果Agent OS能在手表上运行,扩展到手机和PC时主要是规模问题而非可行性问题。
---
## 五、当前进展
### 已完成
- V9v3训练、边缘部署验证、生成能力验证
- V9v3 TS脱敏分发包已发布(Gitee)
- V9v3-lite架构设计
- P0.5联合训练(CubicStack + 输出头全参数微调)
- 120条种子语料
### 进行中
- V9v3-lite知识蒸馏训练
- 手表原型环境搭建
- 信息素场C代码验证
### 待完成
- 语料库从120条扩展到5000+条
- C引擎权重更新(适配联合训练后的模型)
- 厂商合作洽谈
---
## 六、优先级讨论
| 场景 | 示例 | 优先级 |
|------|------|--------|
| 语音笔记 | "记录明天下午三点开会" | P0 |
| 健康查询 | "我上周平均心率多少" | P0 |
| 闹钟设置 | "设一个七点的闹钟" | P1 |
| 运动模式 | "开始跑步" | P1 |
| 设备控制 | "开灯" | P2 |
| 紧急求助 | "我摔倒了" | P2 |
---
项目取名建木,*"建木在都广,众帝所自上下。" ——《山海经》*。
更多推荐



所有评论(0)