去年秋天，我们团队接了个活儿，给疆内一家景区做智慧导览升级。对方负责人上来就问我：“你们那个AI导游，跟手机里装个DeepSeek、Kimi有啥区别？游客问一句‘前面那个亭子是干嘛的’，不都能答上来吗？”我当场没憋住笑。这个问题，几乎每个甲方都会问一遍。说实话，普通聊天机器人跟AI Agent之间隔着一条不小的沟。聊天机器人是“你问它答”，答完就完事，它不记得你两分钟前问过什么，更不会主动去查天气

但近两年技术突破带来了新解法。大模型，尤其是DeepSeek等开源模型推理能力增强，我们开始采用RAG（检索增强生成）架构构建知识库。

迪飞特科技分享在统信UOS系统上部署DeepSeek-R1大模型的经验，从671B满血版到蒸馏版，从CPU每秒3token到vLLM每秒1800token，详细记录了踩坑过程。重点解决了Python环境适配、CUDA驱动兼容、文件系统优化等问题，最终实现工单自动分类准确率87%，处理时延仅2.3秒，证明了国产化环境下大模型落地的可行性。

迪飞特科技分享在统信UOS系统上部署DeepSeek-R1大模型的经验，从671B满血版到蒸馏版，从CPU每秒3token到vLLM每秒1800token，详细记录了踩坑过程。重点解决了Python环境适配、CUDA驱动兼容、文件系统优化等问题，最终实现工单自动分类准确率87%，处理时延仅2.3秒，证明了国产化环境下大模型落地的可行性。