先大概说一下AI Infra的岗位类型，再根据岗位类型，讲一些不同岗位的侧重点。目前所有大厂的AI Infra岗位大概有这些。

算子开发（CUDA算子）

这类岗位在阿里、腾讯、字节这些大厂都有，有些厂商是一个大组就是纯做算子开发的，有些厂商的算子开发则分布于不同部门的训练\推理团队，这种团队的人一般除了算子开发，也会做一些训练或者推理的开发，算子开发是由于训练和推理优化过程中需要的。除了大厂，就是芯片公司，比如NV、AMD、或者国内的芯片公司。大厂的这些算子开发目前来说无外乎attention、moe、量化这几类，但其实水都比较深，入门壁垒还是比较高的。

算子优化这个岗位，面试的时候更侧重高性能计算之类的，手撕代码的时候也可能会手撕一些类似softmax类算子、gemm类算子，再逐个深入问这些优化点。另外面试里的问题会结合你所做过的项目，深入问细节，比如你做的attention优化，会往深里问你不同架构的优化细节、优化方式等。

这个方向，社招没做过的话，不大可能转，也无需准备，做过这个方向的，一般水平不会差；校招一般很少做过这些（这里指的是一般情况，目前也看到一些高校的论文如SageAttention等），那么校招的打好基础即可。推荐大概有如下方式打打基础：

1. 熟悉一些cuda element算子的高效编写，需要注意的是，triton或者tilelang如何实现这些，以及底层的编译器是怎么做的，可以好好学习学习；
2. 尝试自己用cuda和cutlass写一个flash attention算子或者pageattention算子等，从中学习里面的一些优化、不同架构的不同指令集特点（安培、hopper），内存的搬运、数据的layout、bank冲突和解决方法等；
3. 尝试用cuda和cutlass写一个反量化算子，去领略如何用cutlass实现一个高效的反量化算子。

通信优化

如NV的NCCL、月之暗面的TransferEngine、Deepseek的DeepEP等，云厂商比较特殊一点，会结合机器的拓扑和路由的硬件设计去做通信优化，俗称xCCL，比如阿里的ACCL、腾讯的TCCL等。

这块几年前主要是云厂商做xCCL的优化，属于集合通信内的范畴，其实方向比较”窄“。今年由于大EP以及PD分离的普及，使得通信优化可以在框架层用的更多。另外今年的一些通信计算重叠的工作，也开始多起来，主要是通过算子融合的方式实现通信计算融合。

其实这一块也算比较硬核的，比如通信计算重叠这种属于结合了算子和通信这两块。

类似的结论，社招的如果没有经验的话，大概率无法面试获得这个岗位，有经验的话大概率也不会差；对于校招来说，其实可以好好学一下好好准备。

关于算子优化和通信优化，笔者的看法如下：

1. 只要从事AI Infra方向，这两个方向肯定也是要深入去学习了解，即便不开发这些内容，去查相关问题、以及性能调优，基本逃不开；
2. 对于校招且想从事AI Infra，建议好好学习，一方面确实是基础，另一方面，这两个方向确实需要耐下心来好好研究，在校园里，有一定的自由时间，不像上班，时间被需求挤满；
3. 个人觉得从事这两个方向，确实属于比较深入的方向，一件事一旦深入变不一定广，所以励志从事这两个方向的，需要的是耐得住寂寞，在一个”窄“的领域深耕。

推理框架优化

从事这类工作的有大厂的推理团队（一个大厂往往有多个推理团队），以及芯片厂商的生态开发者。另外还有一类特殊的开源框架（vLLM、SGLang等）的贡献者，由于这部分人通常也是在大厂或者芯片厂商，这里不再过多分析。

大厂的推理团队主要还是推理框架的优化，无论vLLM和SGLang现在生态多么成熟，这些大厂总能找到适合自己场景的优化手段，最终性能比开源框架好一些，然后去和主子报祥瑞。

芯片厂商的生态开发者，主要是结合自己的芯片特点，适配vLLM或者SGLang等。

关于推理的面试，说实话，就是看硬实力了，抛出开源框架的一些功能，每一家都有自己框架的一些主攻特色，然而，随着推理生态的日益成熟，信息差越来越少，面试拼的就是硬实力了。应届生的话，找一个框架，对着文档去一个个读它的特性，看看release的功能列表，尝试从使用场景、实现手段以及优缺点，结合代码去看即可，这里举个简单的例子。

vLLM最近出了一个序列并且，社区关于这个有一个设计文档很详细、也参考了一些论文，结合文档、论文和代码，自己跑一跑，去尝试着分析分析。

打字太累，还有几个方向，等有人催更再补充吧，先把坑留下。感觉字写多了，也没什么用，只是个数字而已，不一定真能帮上读者。

普通人如何抓住AI大模型的风口？

为什么要学习大模型？

在DeepSeek大模型热潮带动下，“人工智能+”赋能各产业升级提速。随着人工智能技术加速渗透产业，AI人才争夺战正进入白热化阶段。如今近**60%的高科技企业已将AI人才纳入核心招聘目标，**其创新驱动发展的特性决定了对AI人才的刚性需求，远超金融（40.1%）和专业服务业（26.7%）。餐饮/酒店/旅游业核心岗位以人工服务为主，多数企业更倾向于维持现有服务模式，对AI人才吸纳能力相对有限。

这些数字背后，是产业对AI能力的迫切渴求：互联网企业用大模型优化推荐算法，制造业靠AI提升生产效率，医疗行业借助大模型辅助诊断……而餐饮、酒店等以人工服务为核心的领域，因业务特性更依赖线下体验，对AI人才的吸纳能力相对有限。显然，AI技能已成为职场“加分项”乃至“必需品”，越早掌握，越能占据职业竞争的主动权

随着AI大模型技术的迅速发展，相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业：

人工智能大潮已来，不加入就可能被淘汰。如果你是技术人，尤其是互联网从业者，现在就开始学习AI大模型技术，真的是给你的人生一个重要建议！

如果你真的想学习大模型，请不要去网上找那些零零碎碎的教程，真的很难学懂！你可以根据我这个学习路线和系统资料，制定一套学习计划，只要你肯花时间沉下心去学习，它们一定能帮到你！

大模型全套学习资料领取

这里我整理了一份AI大模型入门到进阶全套学习包，包含学习路线+实战案例+视频+书籍PDF+面试题+DeepSeek部署包和技巧，需要的小伙伴文在下方免费领取哦，真诚无偿分享！！！

vx扫描下方二维码即可

部分资料展示

一、 AI大模型学习路线图

这份路线图以“阶段性目标+重点突破方向”为核心，从基础认知（AI大模型核心概念）到技能进阶（模型应用开发），再到实战落地（行业解决方案），每一步都标注了学习周期和核心资源，帮你清晰规划成长路径。

二、 全套AI大模型应用开发视频教程

从入门到进阶这里都有，跟着老师学习事半功倍。

三、 大模型学习书籍&文档

收录《从零做大模型》《动手做AI Agent》等经典著作，搭配阿里云、腾讯云官方技术白皮书，帮你夯实理论基础。

四、大模型大厂面试真题

整理了百度、阿里、字节等企业近三年的AI大模型岗位面试题，涵盖基础理论、技术实操、项目经验等维度，每道题都配有详细解析和答题思路，帮你针对性提升面试竞争力。

适用人群

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】