最近春招开始了。

节前，我们邀请了一些互联网大厂朋友、今年参加社招和校招面试的同学。

针对新人如何快速入门算法岗、如何准备面试攻略、面试常考点、大模型项目落地经验分享等热门话题进行了深入的讨论。

总结链接： 《大模型面试宝典》(2026版) 正式发布！

喜欢本文记得收藏、关注、点赞。

---

bg：头部C9本硕，有中厂大模型应用相关实习

没想到，在秋招快结束时拿到了Offer，面试流程比预期要快的多，不愧是大厂。

一面

侧重基础原理 + 对齐数据

1. 请系统性对比 DPO 与 SFT 的优化目标、训练信号与收敛特性差异；从训练流程角度看，是否可以采用“先 DPO 再 SFT”的策略，请说明其合理性与潜在风险。

2. 若将 DPO 应用于首轮对话场景，请设计完整的数据构建方案：

   • prompt 如何构造

   • chosen / rejected 样本来源与质量控制

   • 偏好标签如何获取与过滤

3. 针对对话模型训练，你会如何设计单轮与多轮数据的分布比例？请给出合理占比，并从泛化能力、对话一致性与训练稳定性角度解释原因。

4. 进一步细化到 DPO 数据：对于多轮对话样本，你会如何进行采样策略设计（如轮次截断、上下文拼接、难样本增强等）以及整体数据配比方案？

5. 你如何看待reward hacking（奖励投机）问题？在对齐训练（RLHF / DPO）中有哪些常见风险？请给出预防策略与兜底机制（如评估体系、多模型仲裁等）。

二面

侧重工程实现 + 模型训练细节

1. 请深入介绍你参与的大模型项目：你承担的核心技术贡献是什么？如何设计实验与指标来验证改动的有效性与显著性？

2. 对比学习中，若出现正负样本难以区分或距离过近的情况，你会如何从loss 设计或采样策略上进行改进？

3. 请解释FlashAttention与传统 Attention 的核心差异：在实现层面，QK^T、softmax、PV 三步分别如何进行 IO-aware 优化？

4. 在大模型训练的 3D 并行（数据并行 DP / 分布式 DDP / 张量并行 TP / 流水线 PP）框架下：DP/DDP 的核心机制是什么？实际训练中通信瓶颈通常出现在哪些阶段？

5. 对于一个14B 参数模型：

   • 使用 FP16 时权重大约占多少显存

   • 训练过程中还需要哪些额外显存（optimizer / grad / activation）

   • 若使用 INT8 量化，理论上可节省多少显存

6. 请解释 torch.contiguous() 的作用机制；在推理优化中为什么需要关注 tensor 内存连续性？

7. 编程题：读取一个 txt 文件表示的3×3 井字棋棋盘，判断当前玩家是否已经获胜（请考虑边界情况与输入异常）。

8. 请解释交叉熵损失的数学定义，并给出其在代码中的实现方式。

9. 对于线性回归模型使用 SGD 优化：请推导参数更新公式，并给出代码实现。

三面

侧重系统理解 + 前沿方向

1. 请做一个简洁的自我介绍。

2. 请详细介绍你在大模型实习中的工作：做了哪些模块？遇到哪些技术挑战？如何设计评估体系衡量效果？

3. 你如何理解YaRN？它与其他长上下文扩展/外推方法（如 NTK scaling、ALiBi 等）相比的核心差异是什么？

4. 请从统一视角解释RoPE 与 MLA的结合方式；若一个模型仅在短文本上训练，你会如何实现长文本外推能力？

5. 对于FlashAttention 与 Megatron-LM，请说明你了解的关键设计点（如 kernel fusion、parallel schedule、optimizer sharding 等）。

6. 你了解哪些分词算法？以 DeepSeek 等模型为例，其分词策略与传统BPE的主要差异在哪里？

7. 对于常见的字符串解码类算法题（如编码字符串展开），面试通常考察哪些能力？你会如何系统处理边界条件？

8. 手写一个 Transformer 中的 FFN（Feed Forward Network）模块：请说明其结构设计、维度变化以及代码实现。

复盘重点

• 对齐算法：DPO / GRPO、loss 设计、reference model / KL 正则、数据构造与配比

• 工程能力：FlashAttention、分布式并行通信、显存估算、内存连续性优化

• 手写能力：Loss / KL / CrossEntropy + 基础算法题不丢分