快手大模型算法岗面经(三):九场面试真题,从显存估算问到 GRPO 与手撕 MHA
- 轮次
- 多轮
- 时间
- 2026-11
- 来源
- 牛客网
《面试题目》
面经 01(校招,2026 年 2 月 12 日)
- 4B 参数的模型部署需要多少显存?如何估算?
- LoRA 微调的数据从哪里来?数据结构是怎样的?
- 介绍 LoRA 的原理,如何理解其中的「低秩」?
- 介绍你做过的 Agent Workflow 的具体流程。
- 介绍 LSTM 的原理,门控机制是为了解决什么问题而提出的?
面经 02(校招,2026 年 2 月 11 日)
- Attention 计算中,数据的 shape 是 batch first 还是 seq_len first?
- Prompt 长度加倍,首 token 延迟是否也会加倍?
- 模型选型时是否做过定性、定量的 A/B Test 对比?如何用客观数据验证另一家模型的性能确实不佳?
- SFT 过程中遇到了哪些问题?如何解决?
- 如何定性、定量地评估数据集质量,包括单条数据质量和整体数据集质量?
- 单一分类模型、细分分类模型与 MoE 融合方案各有什么优劣?
- 手撕:手写 MHA。
面经 03(校招,2026 年 2 月 9 日)
- 为什么使用 DPO?DPO 的数据从哪里来?
- 为什么使用 Rejection Sampling,而不是从其他商业 API 蒸馏正负样本?
- 了解 RAG 吗?为什么文档类 RAG 没有做分段?
- 介绍 BERT,BERT 的 mask 是如何起作用的?
- 介绍 MTP,展开讲一下其中的计算公式,为什么它能加快推理?
- 讲一下 GRPO 中的公式;实际使用时是否了解 π_θ 与 π_old?
- 手撕:反转链表。
面经 04(实习,2026 年 2 月 5 日)
- 4B 参数的模型部署需要多少显存?如何估算?
- LoRA 微调的数据从哪里来?数据结构是怎样的?
- 介绍 LoRA 的原理,如何理解「低秩」?为什么秩 r 远小于维度 d?
- 介绍你做过的 Agent Workflow 的具体流程。
- 介绍 LSTM 的原理,门控机制是为了解决什么问题而提出的?
面经 05(校招,2026 年 2 月 4 日)
- Pre-train 是怎么做的,用了哪些数据?
- 举一个电商领域的数据构造方法。
- Pre-train 之后如何进行 SFT?
- 简单介绍一下 DAPO。
- DAPO 去掉 KL 并使用 Clip-Higher,训练不会跑飞吗?如何解决?
- 大模型推理慢的原因有哪些?
- 模型是否上线?下游任务的业务效果如何?
- 是否对大模型做过剪枝、量化?最终的线上方案是什么?部署使用什么显卡?
- 手撕:最小回文串。
面经 06(校招,2026 年 2 月 2 日)
- 该项目中使用模型时遇到了哪些困难?
- 你的 AI 素材生成项目,链路是如何搭建的?
- 如何保证生成的成功率?
- 语言模型与图像模型在应用和产品方向上有什么不同?
- 生成素材采用的是什么方案?
面经 07(校招,2026 年 2 月 2 日)
- 是否有视频生成提示词的撰写经验?
- 客户使用模型时出现 Bad Case、无法满足需求,应如何解决?
- 如何设计一个模型服务平台?
面经 08(实习,2026 年 2 月 1 日)
- 介绍你的 AI 项目。
- 如何评估模型效果?从哪些维度设计量化指标?
- 介绍之前一段大厂实习经历,并回答追问。
- 在之前 AI 公司优化 Prompt 的过程中,是否有可遵循的逻辑或方法论?
- 项目过程中遇到过哪些困难?如何解决?
- 如何定义「AI 味」?
面经 09(实习,2026 年 1 月 30 日)
- Reward 函数是如何设计的?数据集的配比是怎样的?
- 手撕:LeetCode 2327 知道秘密的人数。
《参考解析》
显存估算要拆成四块:参数、梯度、优化器状态、激活。推理只算前三者的前两项再加 KV Cache:4B 参数以 BF16 存约 8 GB,KV Cache 随 batch × 层数 × 2 × 序列长度 × 隐藏维度 × 精度 增长,长上下文下常常超过权重本身;实际还要留 10%20% 给 CUDA 上下文与碎片。训练时用 AdamW 的全参数量约为每参数 16 字节(权重 2 + 梯度 2 + 一阶矩 4 + 二阶矩 4,混合精度再另算主权重副本),4B 参数至少 4864 GB,还没算激活。LoRA 冻结主干、只存低秩矩阵的梯度与优化器状态,显存主要花在激活上,所以能用 gradient checkpointing 与更小的 micro-batch 换空间。
LoRA 的低秩:全参微调的增量 ΔW 被认为落在低维子空间里,用 ΔW = BA 表示,B 是 d×r、A 是 r×d,r 远小于 d。r 小表示只允许模型沿少数几个方向改变行为,这既压缩了可训练参数量(从 d² 降到 2dr),也起到正则作用,避免少量数据把整个权重带偏。A 用高斯初始化、B 初始化为零,保证训练开始时 ΔW 为零、模型行为与基座一致。数据侧要覆盖目标任务的全部形态(指令、多轮、拒答、工具调用),格式统一成 chat template,长度按 token 分布截断;数据量少时优先提质量而不是堆条数。
LSTM 的门控:普通 RNN 反向传播时梯度连乘,长序列上会衰减到消失。LSTM 用输入门、遗忘门、输出门控制信息写入、保留与输出,cell state 走加法路径,梯度可以近似恒等回传,因此能学到较长距离的依赖。遗忘门决定旧状态保留多少,输入门决定新候选写入多少,输出门决定当前暴露多少给下一层。代价是参数量与串行计算,长依赖仍不如注意力的全局可见性好。
Attention 的 shape 与首 token 延迟:PyTorch 习惯 batch first,即 [B, L, H],但 nn.MultiheadAttention 的默认是 [L, B, H],需要 batch_first=True 或手动转置;手写实现时把 [B, L, H] 拆成 [B, heads, L, head_dim],算出 QKᵀ/√d_k 再 mask、softmax、乘 V。首 token 延迟(TTFT)由 prefill 决定,prefill 的计算量随序列长度近似线性(注意力项随长度平方增长但常数小),显存带宽压力也随长度增长,所以 Prompt 加倍时首 token 延迟大致是「线性偏上」,不是严格加倍;到了极长上下文,注意力矩阵与 KV 读写会让它增长得更快。要给出实测曲线而不是只讲结论。
模型选型的 A/B 对比:先定指标(任务成功率、人工偏好胜率、拒答率、单次成本、P95 延迟),再定样本(从线上真实请求分层抽样,覆盖各业务场景与难度),同一个 Prompt、同一套解码参数固定随机种子跑两边,用配对比较而不是各自平均;定性部分用盲评(隐藏模型名、打乱顺序、多人打分算一致性),定量部分在可自动判定的数据集上算准确率。要能说出「另有一家模型在哪个子集上差多少、置信区间多宽」,而不是只说「感觉不好」。
数据集质量的两层评估:单条看格式合规(JSON 可解析、字段齐全)、指令与回答是否对齐、有无事实错误与重复、长度是否异常、是否含敏感信息;整体看规模与去重率、任务类型与难度的分布、回答长度分布、来源多样性、以及用一个小模型或规则打分得到的质量分分布。可操作的做法是抽样人工标注 200~500 条建立基准,训练一个轻量分类器做全量打分,再对低分与边界样本人工复核。
DPO 与 Rejection Sampling:DPO 直接用偏好对(chosen / rejected)优化策略,把奖励隐式表达为策略与参考策略的对数比,省掉了显式奖励模型和在线采样,数据来自人工标注的偏好、线上反馈或「强模型 vs 弱模型」的对比。Rejection Sampling 是让当前策略对同一 Prompt 采样多条,用规则或奖励模型筛出正确轨迹再 SFT,优点是分布贴合当前模型、能持续迭代;从商业 API 蒸馏正负样本的代价是分布偏移与合规风险,且教师模型的错误会被原样学走。选 RS 的理由通常是「任务有可验证信号、希望 on-policy 纠正自己的错误」。
RAG 为什么不分段:分段是为了解决「文档远超上下文」与「检索粒度」的矛盾。文档短、单篇即能放进上下文时,按篇检索能保留完整结构与跨段指代,避免切碎后语义断裂;分段还会引入 overlap 调参、边界丢信息、召回多段重复拼接等问题。判断依据是文档平均长度与上下文窗口的比例、问题是否需要跨段推理;需要精确定位时再在篇内做二次切片或按标题层级切。
BERT 的 mask:BERT 是双向编码器,训练时随机遮住 15% 的 token,其中 80% 换成 [MASK]、10% 换成随机词、10% 保持不变,让模型根据左右上下文还原原词。三种替换比例是为了缓解预训练与微调的不一致(微调时没有 [MASK]),同时迫使模型对每个位置都保持表示能力而不是只依赖 mask 标记。这与 GPT 的因果 mask(只能看左侧)是两件事。
MTP 与 GRPO 的公式:MTP(Multi-Token Prediction)在主干之上挂多个预测头,一次前向同时预测未来 n 个 token,训练信号更密;推理时可把额外头作为投机解码的草稿,让一次前向并行校验多个候选,从而提升吞吐。GRPO 对同一 Prompt 采样一组回答,用组内奖励的均值与标准差归一化得到优势 Â_i = (r_i - mean(r)) / std(r),目标函数是 PPO 的 clip 形式加上与参考策略的 KL 惩罚,不需要 Critic。π_θ 是当前正在优化的策略,π_old 是采样这批数据时的策略快照,重要性采样比 π_θ/π_old 用它计算;一次梯度更新后二者就不再相等,所以要在每轮采样前同步。
DAPO 去掉 KL 会不会跑飞:DAPO 的做法是去掉 KL 惩罚、用 Clip-Higher 放宽上界(如 ε_low=0.2、ε_high=0.28)、配合动态采样过滤全对与全错的组、以及 token 级损失归一化。去掉 KL 后约束改由「裁剪 + 参考模型之外的工程手段」承担:过滤掉没有优势信号的组、限制更新步数与学习率、监控输出长度与熵。真跑飞的典型征兆是长度爆炸、重复退化、奖励虚高而人工评测下降,处置是回退学习率、恢复轻量 KL 或加入长度惩罚。
推理慢的原因:decode 阶段逐 token 自回归、访存密集,GPU 算力大量闲置;KV Cache 随长度线性增长带来显存带宽压力;batch 小的时候并行度不足;注意力在长上下文下是 O(L²);此外还有调度与框架开销(Python 循环、重复分配、未做 continuous batching)、量化精度不够、通信开销。优化方向是 continuous batching、PagedAttention、前缀缓存、投机解码、量化(INT8/FP8/AWQ/GPTQ)与算子融合;线上通常组合使用,并用 TTFT 与 TPOT 两个指标分别衡量 prefill 与 decode。
模型服务平台的设计:接入层做鉴权、限流、配额与路由;模型层做多模型多版本注册、灰度与回滚;推理层做动态 batching、副本扩缩容、GPU 池化与显存隔离;可观测层记录每次调用的 token、耗时、错误码与成本;数据层做 Prompt / 响应的落库、脱敏与回流。还要考虑超时与降级链、幂等与重试、以及按租户的成本核算。
「AI 味」怎么定义:可落到可检验的特征上——句式高度对称(三段式排比、每段首句都是总起)、连接词密集(首先其次最后、综上所述)、形容词堆叠而缺具体名词、没有具体数字与专有名词、拒绝给出取舍与代价、结尾必升华。降低 AI 味的办法是加入一手细节(时间、版本号、金额、失败经历)、允许句子长短不一、把结论放在具体场景之后。
手撕要点:MHA 要写清 [B, L, H] 到多头切分、缩放点积、因果 mask 的 -inf 填充与 softmax 数值稳定;反转链表用三指针迭代或递归,注意空链表与单节点;最小回文串(最短回文串)用「s + ’#’ + reverse(s)」求 KMP 的 next 数组找最长回文前缀,把剩余部分反转拼到前面;LeetCode 2327 用队列或数组维护窗口内「今天开始分享」的人数,按天推进并减去 forget 天前忘记的人,注意取模。