快手广告算法一二面:从 SID 表征问到 RQVAE 与 GRPO
- 轮次
- 一二面
- 时间
- 2026-10
- 来源
- 牛客网
《面试题目》
一面
- 详细介绍自己的实习经历,重点说明模型优化迭代的具体思路和落地效果。
- 介绍 MinioneRec 项目所用数据集的整体规模与构建方式。
- 传统方法即可实现 ID 向量化,为什么项目要采用大模型进行 ID 表征学习?
- 阐述 SID 表征相较于普通 Embedding 的优势。
- 同样为 ID 类特征,SID 能有效学习、原生商品 ID 难以训练收敛的根本原因是什么?
- 项目中具体使用的推荐模型架构是什么?如何通过 SID 特征提升广告推荐效果?
- 面试包含 AI Coding 实操,需要本地导入文件、编写指令、运行出结果并提交展示。
- 手撕算法:数组第 K 大元素,禁止使用堆结构,要求用快速选择实现并讲解思路。
- 面试官介绍团队业务:主要做电商广告精排模型,实习生侧重模型建模与实验迭代。
二面
- 做完整自我介绍,重点突出算法项目与工程落地经历。
- 详细阐述百度实习内容、负责模块、模型优化细节。
- 针对模型训练过程提问 loss 收敛、调优、迭代相关问题。
- 手写 pair-wise hinge loss 伪代码,并说明核心逻辑。
- 讲解 pointwise、pairwise、listwise 三种排序方式的区别与适用场景。
- 分别说明三种排序范式对应的常用损失函数。
- 简要介绍 MinioneRec 整体项目架构与核心创新。
- 详细讲解 RQVAE 模型基本原理。
- RQVAE 训练中如何解决量化离散问题、保证梯度正常传导?
- 介绍 RQVAE 的参数量、码本数量、组合规则及新增 token 设计。
- 说明 RQVAE 如何通过解码过程生成 SID 表征。
- 对比 SFT 和 GRPO 在训练监督信号上的核心差异。
- 详细说明 GRPO 奖励函数的设计思路、正负样本判定逻辑。
- 一道零钱兑换相关 DP 变式题。
《参考解析》
「为什么不用现成的 ID Embedding,而要让大模型学 SID」是这套题的主线,回答要把三件事串起来。第一,原生商品 ID 是纯符号、无先验,冷启动商品只有极少曝光,梯度信号稀疏,嵌入基本训不动;语义化 ID(SID)是用内容/行为序列压出来的离散码,天然带相似性先验,冷门商品可以靠共享码本借到邻居的统计量。第二,SID 把「一个商品一个向量」变成「一个商品一串码」,表达能力随码本组合数指数增长,同时把长尾压进有限的码字里,收敛更快。第三,广告精排关心的是泛化到未见过的商品与跨域迁移,语义码比 ID 更容易迁移。
RQVAE 的两个必答点。其一,为什么要残差量化:单层码本容量有限,RQVAE 用多层码本逐层量化残差,第 l 层编码的是前 l-1 层重建后的残差,组合起来能用较小的码本总量表达很大的空间。其二,离散化后的梯度怎么回传:量化操作 argmin 不可导,实践中用直通估计(straight-through),前向取最近码字、反向把梯度原样传给编码器输出;再配合码本损失(commitment loss)约束编码器输出与选中码字不要跑太远,以及码本更新用 EMA 而不是纯梯度下降,避免码字塌缩。回答时补一句「码本利用率」——死码、塌缩怎么监控、怎么做重启或随机重置,这是加分项。
三种排序范式与损失要对得上号:pointwise 把每个样本当独立分类/回归,常用 logloss(CTR)或 MSE;pairwise 只关心两个样本的相对顺序,常用 pair-wise hinge(max(0, margin - (s_pos - s_neg)))与 BPR;listwise 直接优化整个列表,常用 ListNet 的交叉熵、LambdaRank/LambdaMART 的 lambda 梯度,以及 Softmax 形式的 list loss。适用场景上,pointwise 简单、样本利用充分但和排序指标不一致;pairwise 对相对序敏感、适合有明确正负对的场景;listwise 最贴近 NDCG 这类位置敏感指标,代价是实现复杂、对列表构造敏感。
手写 pair-wise hinge loss:loss = mean(max(0, margin - (score_pos - score_neg))),PyTorch 里就是 relu(margin - (s_pos - s_neg)).mean()。要讲清核心逻辑:只有当正样本得分没有超过负样本 margin 时才产生梯度,梯度对正样本是 -1/N、对负样本是 +1/N,训练稳定后大量样本落在 margin 之外、梯度自然稀疏。
SFT 与 GRPO 的差别要落到监督信号上:SFT 是逐 token 的模仿学习,监督信号是「标准答案的下一 token」,样本效率高但对错误路径没有惩罚;GRPO 是强化学习,同一 prompt 采样一组回答,用组内相对优势(reward 减去组均值再除标准差)替代 critic,监督信号来自奖励函数而不是参考答案,能优化不可微的指标。奖励设计要写清可验证的部分(格式、答案正确性、长度约束)与打分方式(规则 + 模型裁判),以及正负样本怎么界定——组内归一化天然给出正负,别把「奖励高」直接等同「正样本」。
两处手撕都不难,难在讲清复杂度:第 K 大用快速选择,随机选 pivot 分区后只递归包含目标的一侧,平均 O(n)、最坏 O(n²);零钱兑换的变式先确认是「求最少硬币」还是「求方案数」——前者是 dp[amount] = min(dp[amount-coin]+1),后者是 dp[amount] += dp[amount-coin],两者循环方向与初值都不同,答之前一定先问清。