《AI懂个屁的历史包袱:多Agent时代的数仓深水区生存指南》
多Agent时代,数仓大数据开发的护城河在哪里?
这不是一篇制造焦虑的文章。这是我做技术十几年,第一次认真说"这次真的不一样"。看完你可能会不舒服,但不舒服之后是清醒。
开场:一个正在发生的真实场景
五一假期大家都愉快吗,下午三点,我让团队的新部署的测试 AI工作流跑了一个需求: "算上个月新用户7日留存,分渠道看" 。
你知道整个过程发生了什么吗?
DeepSeek TUI 接收需求 → Hemers 拆解任务 → 唤起 Vanna 写SQL
→ Claw Data 发现表名变更 → 自动重连新表 → 执行成功
→ 生成分析报告(含异常标注 + 业务建议)
总耗时:6分23秒
人来做同样的事需要多久?
找业务确认口径0.5小时,找DBA确认表结构0.5小时,写SQL 0.5小时,做图0.5小时,中间再跟业务撕逼两次——半天没了。
这不是科幻。我每天都在看这事发生。
一、多Agent不是工具升级,是生产关系变化
很多人还在用旧地图理解新大陆。他们说:"AI只是工具升级,就像当年Hadoop替代MapReduce一样。"
错了。
以前的技术变革:从MapReduce到Hive,从离线数仓到实时数仓——工具变了,干活的人没变。
这一次:从人写SQL,到人管理AI团队写SQL——干活的人没变,但生产关系变了。
你不再是执行者。你是指挥官。
二、多Agent工作流的四层架构拆解
这套工作流为什么能跑通?我拆给你看:
┌─────────────────────────────────────────────────────────┐
│ 【入口层】DeepSeek TUI │
│ 理解人类意图 → 转换为任务 │
└────────────────────────┬────────────────────────────────┘
│
▼
┌─────────────────────────────────────────────────────────┐
│ 【编排层】Hemers │
│ 拆解任务 → 派发 → 验收 → 协调 │
└────────────────────────┬────────────────────────────────┘
│
▼
┌─────────────────────────────────────────────────────────┐
│ 【执行层】 │
│ Vanna(写SQL)│ Claw(执行代码)│ 各路Skill(专业工具) │
└────────────────────────┬────────────────────────────────┘
│
▼
┌─────────────────────────────────────────────────────────┐
│ 【输出层】 │
│ 报表 / 文档 / 分析报告 / 异常标注 │
└─────────────────────────────────────────────────────────┘
你发现没有?这四个层次,跟一个项目组的配置一模一样:
- 入口层 = 需求分析师
- 编排层 = 项目经理
- 执行层 = 开发工程师
- 输出层 = 产品交付
AI团队干活的方式,正在无限接近人类团队的协作模式。
三、深水区三大山:全是人的问题
说到这儿,很多人开始膨胀了:"没事,AI不懂业务,我懂业务。"
做技术十几年,我告诉你什么叫"懂业务":
"懂业务"只是入门级的护城河。真正的深水区,根本不是技术问题。
全是人的问题、组织的问题、历史包袱的问题。
这些东西,AI连门都摸不着。
第一座大山:熵增(历史包袱)
你见过哪个公司数仓上线三年之后还是干净的?
各种临时表、中间表、为了某个运营活动临时建的表。前任开发离职三年了,他建的表还在核心链路上跑。
"每个公司都有一座屎山,区别只是有没有人承认。"
AI懂个屁的历史包袱?
它不知道这张表为什么建,不知道这张表影响了谁,更不敢乱删——因为删了万一哪个高管的报表断了,背锅的是你,不是AI。
这些历史债务、这些人情世故、这些不能写在代码注释里的秘密,AI理解不了,也处理不了。
第二座大山:动态博弈
很多人没看清这件事的本质:
数据团队的核心矛盾,从来不是技术问题,是"业务要快速迭代"和"模型要保持稳定"之间的矛盾。
业务方今天要加这个口径,明天要改那个定义,后天产品改了功能,数据逻辑全变了。
但数仓模型呢?你不能天天改,改多了就乱了,就成屎山了。
你每天在中间当夹心饼干:
- 业务催着要数据:"这个需求很急!"
- 架构师说模型不能动:"你动一下试试?"
- 你得两边协调,两边妥协,有时候还得两边背锅。
AI懂个屁的博弈?
它只会按需求写SQL,写出来的东西今天能用,明天业务一改就废了。它不知道什么叫"妥协",什么叫"平衡",什么叫"阶段性方案"。
第三座大山:成本控制 + 组织博弈
老板把你叫进办公室:
"存储成本再降30%。"
你去做数据治理,发现各个部门口径完全不一样:
- A部门:新用户 = 注册算
- B部门:新用户 = 首单算
- C部门:新用户 = 下载APP就算
你去推统一口径?各个部门都说自己忙,没人理你。
AI怎么干这事?
它连会议室都进不去,怎么跟人吵架?它连老板脸色都不会看,怎么汇报降本成果?它连哪些人得罪得起、哪些人得罪不起都分不清,怎么推动跨部门的事情?
真正的护城河是什么?
是你踩过的坑,是你背过的锅,是你跟产品撕过的每一次逼,是你对这个组织运作方式的深刻理解。
这些东西,AI学不来。
四、数据产品思维 ≠ 数据产品经理
这是全文最重要的一个区分,我要重点讲。
很多数仓开发听到转型,第一反应是:"那我去做数据产品经理吧。"
不是的。
不管你走哪条路(架构师/Agent编排师/深水区专家),都需要数据产品思维。但不是让你去做产品经理。
是让你用产品思维来做技术。
这是升级思维方式,不是换岗位。
什么叫数据产品思维?
你写SQL的时候 → 知道这个需求背后的业务价值是什么
你建模型的时候 → 知道这些数据谁用、怎么用、多久用一次
你推数据治理的时候 → 知道用户到底要什么口径
你不是在服务代码,你是在服务人。
五、数仓开发的三条升级路径
数仓开发面临的现实:80%的基础工作AI已经能干了。
- 写SQL ✓
- 做报表 ✓
- 配调度 ✓
- 写文档 ✓
剩下那20%的深水区呢?模型设计、架构设计、数据治理、成本控制、跨部门协调——全是人的问题,AI搞不定。
所以数仓开发的路,是往上走了。
路径一:数据架构师(往上走)
别天天写SQL了。研究什么?
- 怎么分层更合理?
- 怎么建模型能撑住业务变化?
- 怎么推动统一口径?
- 怎么在老板的预算内把成本降下来?
但记住:
你搭的不是教科书上的分层架构,你搭的是一个数据产品——
用户是谁、场景是什么、SLA怎么定,这全是产品思维。
路径二:Agent编排师(横向走)
以前你是自己写SQL,现在你设计整个多Agent协作流程:
需求 → 拆解任务 → 派发给不同Agent → 校验结果 → 交付
怎么让Vanna写的SQL更规范?
怎么让Hemers拆任务更合理?
怎么搭建企业内部的Agent工作流?
本质上,你就是在设计一个自动化数据产品的流水线。
还是产品思维。
路径三:深水区专家(往深走)
专门应对熵增、动态博弈、成本控制这些AI搞不定的事:
- 重构屎山表
- 推动跨部门数据治理
- 在业务快速迭代中保持模型稳定性
这个方向没有现成的路。但你只要能解决这些深水区问题,你永远不缺饭碗。
六、平台开发:真正的护城河不是底层技术
平台开发的人看到上面数仓那部分,可能会松一口气:"还好我是做平台的,AI碰不到我。"
别高兴太早。
说"AI连服务器权限都没有所以干不了你的活"——这个逻辑跟当年说"Excel替代不了会计因为会计要签字盖章"一样,站不住脚。Agent要调优Flink?给它权限、给它监控数据、给它历史case,它慢慢就能学。权限是门槛,不是护城河。
那平台开发的真正护城河在哪?
搭出来的平台没人用,就是废物。最难的不是技术深度,是怎么把平台做成一个有人愿意用的产品。
你回想一下自己经历过的场景:
- 你搭了一个新的调度系统,比老系统好三倍,结果三个团队只有半个团队迁过来了——另外两个说"老系统用着挺好,不迁"
- 你做了资源隔离方案,A团队说凭什么B团队分的多?B团队说我业务重要本来就该多用
- Flink集群半夜挂了,你得一边排查一边安抚五个业务团队,同时还得判断——哪个任务能kill,哪个任务杀不得,杀了谁会投诉到老板那
这些事,AI干得了吗?
AI能调JVM参数,但它不知道这个任务背后是CFO明天要看的财报;AI能重启服务,但它不知道kill掉这个任务会导致某位VP的晨报断供。这些判断,需要的是综合素质——技术能力只是基础,你还得懂业务优先级、懂人际关系、懂取舍时机。
而把平台做成有人用的产品,需要的是产品创造力——不是堆功能,是设计体验。
路径一:平台产品架构师(产品化)
把基础设施变成产品。
以前你搭平台,想的是:功能全不全、性能好不好、可用性高不高。
现在你要想的是:开发者用你平台的时候,爽不爽?
一个调度系统 → 不只是能跑任务
· 迁移成本够不够低?一键迁还是手动改一周?
· 报错信息开发者能不能看懂?还是得来找你?
· 监控面板是不是只有你自己能看懂?
· 上线一个新任务要几步?三步还是三十步?
好的平台,开发者愿意主动迁移;差的平台,你推都推不动。
这跟写代码没关系,这是产品能力。 你得站在开发者的视角设计API、设计交互、设计迁移路径。这叫产品创造力。
路径二:稳定性与治理专家(综合素质)
平台不出事的时候,没人记得你;出了事,所有人盯着你。
但真正的难点不是技术排查——是在高压下做正确判断。
半夜三更,集群挂了,五个业务团队在群里@你。你只有30秒决定先救谁。
这种时刻靠的不是你对内核有多了解,靠的是:
- 判断力:哪个任务背后是老板盯着的KPI?哪个可以等?你得瞬间排优先级
- 沟通力:安抚业务团队、同步进展、管理预期——不是发个"在排查了"就完了
- 决断力:有时候你得kill任务保集群,杀了谁的都不高兴,但你得杀
- 复盘力:事后怎么写报告让老板觉得你有预案,而不是觉得你失职
这些能力,叫综合素质。技术是底座,但在高压场景下,真正让你扛住的是综合素质。
AI能分析日志,但它不会在凌晨三点同时安抚五个愤怒的业务方。它不知道哪个群里的人得罪不起,哪个任务kill了明天就会被CTO点名。
路径三:AI-Native平台构建者(新赛道)
不是给Agent加个权限就叫"AI基础设施"了。
你要做的是从零重新设计一个面向AI时代的平台:
传统平台假设:用户是人 → 交互是界面 → 操作是手动
AI-Native平台:用户是人+Agent → 交互是API+自然语言 → 操作是自动化+人工审核
这意味着什么?
- 调度系统不再只是跑定时任务,要支持Agent动态提交、动态编排
- 监控不再只是看大盘,要能识别Agent行为异常(为什么这个Agent连续查了500次同一张表?)
- 权限体系不再只是RBAC,要支持Agent的细粒度资源隔离和行为审计
- 开发体验不再只是Web UI,要同时提供人类友好的界面和Agent友好的API
你是在发明一个新的品类,不是在维护一个旧系统。
这需要的不是底层技术深度,是产品创造力——你得想清楚,当人和AI同时用你的平台时,体验应该是什么样?工作流应该怎么设计?人和AI的协作边界在哪?
所以你看,平台开发的三条路,和数仓开发一样,核心都不是技术深度,是综合素质和产品创造力:
路径一,产品化——用产品思维把平台做成有人用的东西路径二,综合治理——在复杂场景下靠综合素质做正确判断
路径三,新赛道——用产品创造力发明面向AI时代的新平台
越往深走越安全?不。越能解决问题,越有价值。
七、最后说几句掏心窝子的
技术人真正的护城河:
不是你会多少框架,
不是你写过多少行代码,
不是你的学历有多光鲜。
是你定义问题的能力。
是你拆解问题的能力。
是你协调资源的能力。
是你推动事情的能力。
AI淘汰的从来不是技术人,而是那些只会重复劳动、拒绝学习、不愿思考的人。
这个行业变化很快,但有一件事永远不变:
你今天踩的坑,明天就是你的护城河;你今天学的东西,明天就是你的饭票
更多推荐



所有评论(0)