25年，算起来聊了300多家企业，实际落地了20多个项目。做项目的过程中，我和团队逐渐形成了两个筛选客户的习惯：一是尽量和企业一把手或有决策权的人直接对接，先把预期和核心需求聊清楚；二是第一次聊完就判断一个月内能不能启动，如果对方内部流程太长（比如要走招投标），一般就不继续跟了。不是说这类客户不好，而是在当前阶段，更需要能快速迭代、小步快跑的合作方，彼此认知对齐才能配合顺畅。

对我自己来说，26 年的方向很简单：不追最新最热的技术概念，专注在几个有积累的垂直场景把 Know-How 吃透；做最懂怎么用现有技术、在约束条件下可靠解决特定问题的人。想清楚这一点，后面做选择就简单多了。

这篇文章主要是想结合知乎上"AI 中场时刻"这个话题的讨论，梳理一下市场到底在发生什么。这个话题目前有 30 多万人围观、170 多篇回答，我从中筛选了 25 篇比较有代表性的帖子。这些回答来自 AI Infra 工程师、创业者、投资人、高校教师、传统行业转型者……背景各异，拼在一起恰好勾勒出 2025 年 AI 行业的全貌。

https://www.zhihu.com/question/1974931646080836522

这篇试图说清楚：

25年AI基础设施的变革、Agent 从 Demo 到落地的真实进展、企业 AI 转型的困境与出路、行业的共识与分歧以及不同背景从业者的真实声音。

以下，enjoy:

1、AI Infra 这一年：DeepSeek 带来的连锁反应

25 年如果投票选一个标志性事件，DeepSeek R1 的开源发布我想肯定会入选。这件事对 AI Infra 行业的冲击，不只是技术层面的，更多是格局和人的变化。在知乎这个话题下，首当其冲的就是能够看到很多来自于 AI Infra 行业的一些从业者的发声。

1.1、DeepSeek R1 的冲击波

这位 Infra 从业者的经历挺有代表性。DeepSeek 选在春节前发布，时间点确实很精准的直接打乱了很多团队的节奏。从需求侧来说，我印象很深的是当时也是在我回老家的高铁上，在公众号和知乎的后台收到的关于 DeepSeek 本地化部署知识库方案的一些咨询就开始多了起来。

这句话我觉得点到了问题的核心，说到底还是认知偏差。当时有几篇流传比较广的公众号文章，关于部署 DeepSeek 到底赚不赚钱，也是各路代表吵了差不多一个月也都没形成定论。

我自己做 To B 项目也有类似感受：企业主对技术本身的理解程度，很大程度上决定了项目能不能顺利推进。能意识到 DeepSeek 在推理成本上的变化意味着什么的老板，沟通起来效率高，愿意配合做 POC 验证。这也是开篇提到的筛选客户的一个隐性标准：认知对齐比预算充足更重要。

1.2、开源赢了，但门槛反而更高了

私以为，这算是 25 年 AI Infra 领域最大的格局变化。以前各家自己搞自己的推理引擎，现在基本都转向开源框架了。表面上看门槛低了，算法团队和工程团队都能用 vLLM 搭建服务；但实际上要求反而更高了——怎么在开源基础上做出业务亮点，成了新的竞争焦点。

就业市场的变化也挺值得关注。这个帖子还提到，今年校招的人才密度明显高于往年，应届生拿到的 offer 薪资能倒挂工作七八年的老员工。这个趋势或许也意味着，以后找外包或者合作的技术团队，可能得优先考虑 00 后和 05 后了。

1.3、技术门槛在快速抬高

AI Infra 看起来已经不是会用 vLLM 就够的年代了。DeepSeek R1 之后，行业直接进入了多机分布式推理时代，需要的技能栈从单一变成了复合。

为了方便前后对比，我简单整了个表格：

维度	以前	现在
并行策略	主要是张量并行	TP + EP + PP 组合拳
网络知识	了解基本通信	需要 RDMA、NVSHMEM 背景
算子开发	用现成的	要手写 Triton/Cutlass

说人话就是，对做应用层的团队来说，这个趋势的直接影响是想自己本地部署大模型越来越难了，要么用云服务，要么找专业的 Infra 团队合作。

1.4、有卡才有话语权

这位从云大厂跳槽到创业公司的从业者，描述了一个很现实的问题：25 年上半年，H100/H200 国内基本拿不到，H20 也只有少量。传统的云计算生意做不下去了。

在这个背景下出现了两个趋势：一是离岸方案——既然国内拿不到高端卡，就去海外部署；二是 Token Service 开始成为一门独立的生意，硅基流动、Together.ai 这类第三方 Token 服务商开始起来了。

我自己的习惯是国内用硅基流动，海外用 OpenRouter，不只是问答模型，嵌入模型、重排序模型也都走 API。有些小尺寸的路由模型或者 OpenRouter 上不太成熟的重排序模型，会从 Ollama 或者 HuggingFace 直接拉。

2、Agent 这一年：到底有没有跑通？

25 年铺天盖地的媒体宣传，说是 Agent 元年，但实际情况到底怎么样？知乎这个话题下有几篇帖子我觉得聊得挺实在的。

2.1、从"炼丹"到"跑通"的三个阶段

这位从业者总结了一个挺有代表性的技术演变脉络：23-24 年核心焦虑是"模型不够懂业务"，花大量时间做继续预训练和微调；25 年初 DeepSeek 出来之后，关注点从模型层下沉到推理层，开始折腾底层优化；25 年中之后，开源模型能力够用了，Agent 终于跑通了。

"跳出 Demo 陷阱"这个说法挺精准的。以前做 Agent 演示效果都不错，但一到生产环境就拉胯。现在的变化是，基座模型的推理能力确实上来了，一些垂直场景开始能跑通了。

我自己近期在做隐患识别和售前报价这两个项目时也有类似体会：以前花大量时间调 Prompt，现在模型智商在线之后，重点变成了几件事——首先是构建领域知识库，一部分从非结构化文档里提取，一部分通过专家访谈把老师傅脑子里的隐性经验显性化；其次是做好工作流编排，把复杂任务拆成可控的步骤，用 LangGraph 这类工具管理状态流转；最后是建立反馈闭环，根据实际使用情况持续优化知识库和 Prompt。

中后期如果场景足够垂直、数据量足够大，也可以考虑针对性微调，但大多数 To B 项目其实用不到。总之一句话：模型能力是通用的，知识库加上持续迭代的闭环才是垂直场景的护城河。

2.2、从 Prompt 工程到上下文工程

"上下文工程"（Context Engineering）这个概念今年在行业里很火。核心观点是现在模型的推理能力已经足够强，瓶颈往往不在 Prompt 写得好不好，而在于有没有给模型提供足够的上下文信息。该给它看什么、不该看什么、什么时候给、怎么压缩历史记录——这些才是影响效果的关键。业内通常会从外部化、压缩、检索、隔离几个维度来拆解这个问题，具体做法因场景而异，但思路是一致的。

另一位作者从个人工作流的角度聊了类似的思路：用 Cursor、Windsurf 这类 AI 编程工具时，它们会把项目需求、架构设计、代码风格偏好保存成文件，每次启动新会话都能快速恢复"工作记忆"。这个机制其实也适用于 Agent 设计——复杂任务需要有持久化的"经验库"，而不是每次都从零开始。

我自己在做项目时也会把调试过程中有效的 Prompt 模式、踩过的坑、客户反馈的边界 case 都记录下来，作为后续迭代的参考。

2.3、Claude Code 和 Manus 的路径分化

25 年下半年 Agent 领域最热的两个产品是 Claude Code 和 Manus，代表了两条不同的技术路线。简单对比一下：

维度	Claude Code	Manus
核心思路	把可 SOP 化的流程封装成 Skill	极致的上下文工程和分层动作空间
适用场景	存量业务迁移、开发者工具	新业务探索、通用任务处理
商业模式	SDK 化，按调用收费	订阅制，面向终端用户

Anthropic 那边有句话挺有意思的："Don't Build Agents, Build Skills Instead"——不要造 Agent，要造 Skill。这个理念对做企业大模型应用来说挺有参考价值。与其追求一个通用 Agent，不如把业务流程拆成一个个可复用的 Skill 模块。

我自己在做项目时也在往这个方向走。比如售前报价项目，第一版想做端到端的 Agent 自动出报价单，后来发现不现实；调整思路后拆成"需求解析"、"历史检索"、"参数对比"几个独立模块，反而更好用了。Agent 的价值不在于替代人做决策，而是提供决策支持。

3、企业 AI 转型这一年：理想和现实的差距

做 To B 的人都知道，企业客户的决策链条长、认知参差不齐、内部阻力大。AI 项目尤其如此。知乎这个话题下有几篇帖子，从不同角度描述了企业 AI 转型的真实状态。

3.1、企业老板对 AI 的认知差异

这位作者表示自己做过不少企业咨询，总结了四类企业认知状态，这部分我深表认同：追热点型（老板看过 ChatGPT 演示就要求"我们也要有 AI"）、c竞争驱动型（还没搞清楚能干嘛就设量化目标）、稳健务实型（先评估场景再稳妥推进）、战略变革型（把 AI 当解决方案的一部分）。

我自己接触的 300 多家企业里，追热点型和 KPI 驱动型占大多数，能进入稳健务实阶段的不到三成。这也是为什么我后来给自己定了规矩：主要和企业一把手或实际拍板的人对接。不是说其他层级的人不重要，而是没有认知对齐的决策层，项目确实很难推进下去。

3.2、数据治理才是真正的硬骨头

这部分内容第一次读到很有共鸣。这位作者在一家企业推 AI 落地，光数据清洗就花了六周，把十年积攒的工单、日志、邮件翻出来，脱敏、对齐、去偏，正则表达式写了两千行。

我自己在做项目时也有类似体会：很多企业连基础的 BOM 表都没有，或者有但格式混乱、版本不统一。想做智能报价得先让客户把历史报价数据整理一遍。想做知识库问答需要先把分散在各个部门的文档收拢起来。这些前置工作往往占了项目周期的一半以上。

3.3、组织惯性是隐形的墙

除了数据问题，组织惯性也是个大坑，这也是为什么在快速沉淀团队工程能力的阶段我倾向于规避中大型企业。"数据在别的部门手里"、"老系统的集成方不维护了"、"员工担心被 AI 替代所以不配合"——这些都是实际项目中遇到的阻力。

这位作者给了几条建议：选对切入点（挑足够痛的场景）、组建排头兵（和业务场景强绑定）、快速产出 MVP（不要等到完美）、复制推广（固化流程）。

这个思路我基本认同，补充一点：MVP 阶段一定要让业务方深度参与，最好能让他们自己定义"什么叫成功"，否则后面验收的时候会容易扯皮。

3.4、创业公司的生存压力

这位创业者的处境很有代表性：产品做出来了，潜在客户也认可，但就是没人付钱。"启动资金并不充裕，还能坚持不到一年"——这或许是很多 AI 创业公司的真实状态。

To B 的付费周期本来就长，加上很多企业对 AI 项目的预算还没正式立项，创业公司的现金流压力可想而知。我自己的应对策略是：不追求大项目，先做小项目快速回款；宁可少赚点，也要保证每个项目都能按时收到钱。

3.5、学术界的视角转变

这位高校教师选择离开实验室去创业，理由很朴素：在学校做的研究，真的有人用吗？不见得。用他的话来说，想做的是"精准的小手术"——不追求颠覆性的大模型，而是解决普通人日常中那些"懒得提但总在消耗心力"的问题。

这个思路其实也适用于 To B 服务：不要一上来就想着做平台、做生态，先把一个具体场景的问题解决好。能帮客户省下两个小时的重复劳动，就已经是实实在在的价值了。

4

   

行业的共识与分歧

知乎这个话题下有位答主做了个挺有意思的事情：用 Cursor+DeepSeek API 把 170 多篇回答做了个量子速读，统计了回答者的行业分布和观点共识。这个数据挺有参考价值的（统计时间截至 12/21 号）。

4.1、谁在回答这个问题？

会

背景	占比
AI 研发与工程人员	28%
创业者/企业管理者	22%
跨领域从业者与普通用户	20%
传统行业技术应用者	12%
学术界研究者	9%
投资者与分析人士	5%
产品经理与策略规划者	4%

从分布来看，一线技术人员和创业者加起来占了一半，这也意味着这个问题下的回答相对务实，不是纯理论或纯资本视角。

4.2、大家基本认同的几件事

这位答主总结了几条行业共识，我挑几个自己认同的说一下：

1、"落地能力"取代"模型规模"成为核心竞争力

这一条我深有体会。以前客户问的是"你们用的什么模型"，现在问的是"能不能在我们的数据上跑通"。模型本身越来越同质化，差异化在于能不能解决具体问题。

2、数据质量与工程能力是关键瓶颈

前面企业转型那章已经聊过了，不再展开。

3、垂直领域深度整合价值巨大——行业 Know-How 比通用能力更有商业价值

这一条对做 To B 的团队来说尤其重要。通用能力大厂会越做越好，创业公司的机会在垂直场景——前提是你比客户更懂他的业务，或者至少能快速学会。

4.3、大家吵得比较厉害的几件事

分歧 1：Scaling Law 是否还能继续？

一方认为继续堆算力、数据、参数还能涨分，另一方认为边际效应已经很明显了，应该转向架构创新（比如 MoE）和算法创新（比如强化学习）。

我自己的观点：对做应用的团队来说，这个争论其实没那么重要。不管 Scaling Law 怎么走，基座模型的能力会继续提升，我们要做的是跟上节奏、用好现成的能力。把精力花在模型选型争论上，不如多花点时间把业务场景吃透。

分歧 2：通用 AGI vs 专用工具

激进派觉得 AGI 就在眼前，应该 All in 世界模型；务实派觉得当前应该聚焦具体问题，创造可验证的商业价值。

我站务实派。不是说 AGI 不重要，而是对大多数创业团队和企业来说，追 AGI 的资源门槛太高了。把手头的场景做好，活下来，才有资格谈未来。

---

---

5、不同背景的人在干什么？

知乎这个话题下的回答者背景挺多元的，不只是做 AI 的人在发声。挑几个有代表性的聊一下。

5.1、传统软件行业：压力山大

这位帖子作者在传统软件行业，用"冰火两重天"来形容现状：BAT 这类大厂一路高歌，传统软件巨头则哀鸿遍野——用友、浪潮、中国软件前三季度亏损都惨不忍睹。处在其中的从业者"努力到无能为力，也仅能保住饭碗"。对这个群体来说，2026 年的关键词大概是"拥抱 AI"，不管愿不愿意。

5.2、技术专家的赛道切换

这位答主在自动驾驶领域深耕六年，履历很亮眼（Waymo 榜单第一、ICCV Oral、地平线量产经验），但还是选择跳到具身智能赛道。理由很直接：越早期机会越多。加入新公司后，他们团队用 VLA+RL 方法实现了 99.x%成功率的叠毛巾任务。

这种"在成熟赛道有积累但主动换到早期赛道"的选择，挺值得思考的。

5.3、非技术从业者的 AI 赋能

这位答主原来做猎头，25 年转型做自媒体。AI 对他来说是"全能助理"：选题策划、内容撰写、多媒体生产、数据分析都能帮上忙。用他的话说，"一个人就是一个团队"。

这个案例说明 AI 的价值不只在技术岗位，非技术从业者同样能用 AI 提升效率。

6、写在最后

6.1、模型不是壁垒，场景 Know-How 才是

前面聊了这么多，其实都在指向一个结论：做企业大模型应用，真正的护城河不在模型本身。

模型能力会越来越同质化，开源的追上闭源的，国产的追上海外的。差异化在于能不能解决具体问题。而解决具体问题，需要的是对业务场景的深入理解——知道客户的痛点在哪、数据长什么样、流程有哪些坑。

有些团队会倾向于"做行业垂直模型"、"做微调"，觉得这样才专业、才有壁垒。但在实际落地中，我的观察是：合理的工程优化 + 行业知识库，往往能解决80%以上的场景。只有当基座模型的天花板确实不够、而且手上有大量高质量的标注数据时，微调才值得考虑。很多时候客户说"我们要定制模型"，聊到最后发现是检索没做好、Prompt没调对、或者根本没把业务规则喂进去。先把这些基础功做扎实，再谈微调不迟。

6.2、工程很重要，但不是无限叠加

既然说工程能力是核心竞争力，那是不是工程堆得越多越好？不是的。

拿 RAG 场景举例，一个"全副武装"的检索链路可以很复杂：混合检索、多次重排、上下文扩展、相关性评分、自校正循环……但每加一层都有延时成本。实际落地要根据业务需求来选配：

场景	参考配置	理由
实时对话	混合检索 + 单次重排	延时敏感，先保体验
文档问答（5-10s）	+ 上下文扩展 + 二次重排	完整性优先
关键业务（日志/合规）	+ 相关性评分 + 自校正循环	宁可慢，不能错

工作流和 Agent 场景也是同样的道理。Agent 架构可以做得很复杂：

单次调用 → ReAct 循环 → 多工具编排 → 多 Agent 协作 → 分层 Agent（Manager+Workers）

每往右走一步，能力上限更高，但调试成本、延时、不确定性也在增加。实际选择要看场景：

场景	建议架构	理由
简单任务（格式转换/信息提取）	单次调用，Prompt 里写清规则	够用就行，别过度设计
多步骤任务（报告生成/数据分析）	工作流编排，确定性流程	可控性优先，每步可调试
开放性任务（调研/规划）	ReAct + 工具调用	需要模型自主决策
复杂协作（多角色/多轮审核）	多 Agent + 人机协同	关键节点人工介入

还有几个工程细节容易被忽略：

状态管理：Agent 跑到一半挂了怎么办？需要设计 checkpoint 机制

超时兜底：模型思考太久或工具调用卡住，要有 fallback 策略

输出校验：Agent 返回的结果格式对不对、逻辑通不通，要做后处理

一句话总结：工程能力不是堆复杂度的能力，而是根据场景选择合适复杂度的能力。

6.3、2026 年的几个判断

关于接下来这一年，说几个我自己的预判：

1、Agent 会在更多垂直场景跑通

25 年是 Agent 从 Demo 走向生产的第一年，26 年应该会在千行百业涌现更多最佳实践。不是那种"通用 Agent 替代人类工作"的宏大叙事，而是一个个具体场景的自动化闭环——自动生成报告、自动审核合同、自动回复工单这类。谁能在某个垂直场景做到 90%+的准确率和稳定性，谁就能先建立壁垒。

2、私有数据会成为真正的竞争壁垒

知识库在 25 年已经是企业 AI 的入门应用了，预计 26 年的变化是：企业会开始意识到，自己积累的文档、流程、专家经验不只是"能用"，而是"值钱"。这些私有数据经过清洗、结构化、知识提纯之后，会成为和模型能力同等重要的竞争力。谁能帮企业把数据资产盘活，谁就能拿到长期合作。

3、工作流编排能力会成为服务商标配

简单的 RAG 问答已经不够用了，客户会提出更复杂的需求：多轮对话、多工具调用、条件分支、人机协同审批。Dify、Coze 这类低代码编排平台会继续普及，但真正的差异化在于：能不能根据业务场景设计出合理的工作流，而不是把所有功能都堆上去。

4、To B 竞争会从"能不能做"转向"做得好不好"

过去两年，很多企业的需求是"帮我搭一个 AI 系统"，能跑通就行。26 年随着市场成熟，需求会变成"帮我把这个场景做到什么效果"。竞争维度会从"有没有"转向"好不好"——响应速度、准确率、易用性、售后服务都会成为比拼点。纯靠 Demo 拿单的时代会过去，真正能交付价值的团队才能活下来。

以上就是我从 25 篇知乎回答里提炼出的行业观察，加上自己这一年做项目的一些体会。如果你也在做类似的事情，欢迎交流。

---

---

知识星球成员250+，80+精华主题，70+项目源码，

欢迎一线从业者加入交流学习