实测环境：macOS 14.5 / Windows 11 23H2，Wi-Fi 5 百兆带宽，2026 年 4 月。对比目标：Final Round AI / yidaxia.ai / Sensei AI / 通用 Interview Copilot。

hao# 实时 AI 对话 P99 延迟毛刺定位实录：4 段链路 + 6 类抖动 + 全链路监控埋点（含代码）本文聚焦实时 AI 对话（语音/文字 copilot、面试辅助、客服 bot）线上 P99 延迟毛刺，从链路拆解、抖动归类到监控埋点全链路落地。包含真实生产环境数据：P99 从 4.8s 拉到 1.1s，毛刺率从 17% 降到 0.6%。

所有全局表必须有 finally 兜底 + 心跳超时清理所有 generator / streaming buffer 必须 maxlen所有 cache 用 LRU，不用 dict；外加内存预算监控所有必须保存引用 + done_callback 自清所有 SDK client 显式配 timeout + max_retries=0 + 用async with包 streaming respon

不是所有问题都需要最强模型。问候、闲聊、简单事实问题 → Qwen 3.5 Flash（TTFT 180ms）结构化回答、STAR 行为题 → GPT-4.1-mini（TTFT 320ms）代码题 / 系统设计 → Claude Sonnet（TTFT 450ms，但深度值得）路由器本身用一个 50ms 的小模型分类。看起来加了一步反而慢，但因为 70% 流量走 Flash，平均 TTFT 砍掉