面灵AI→

快手广告算法一二面:从 SID 表征问到 RQVAE 与 GRPO

轮次
一二面
时间
2026-10
来源
牛客网

《面试题目》

一面

  1. 详细介绍自己的实习经历,重点说明模型优化迭代的具体思路和落地效果。
  2. 介绍 MinioneRec 项目所用数据集的整体规模与构建方式。
  3. 传统方法即可实现 ID 向量化,为什么项目要采用大模型进行 ID 表征学习?
  4. 阐述 SID 表征相较于普通 Embedding 的优势。
  5. 同样为 ID 类特征,SID 能有效学习、原生商品 ID 难以训练收敛的根本原因是什么?
  6. 项目中具体使用的推荐模型架构是什么?如何通过 SID 特征提升广告推荐效果?
  7. 面试包含 AI Coding 实操,需要本地导入文件、编写指令、运行出结果并提交展示。
  8. 手撕算法:数组第 K 大元素,禁止使用堆结构,要求用快速选择实现并讲解思路。
  9. 面试官介绍团队业务:主要做电商广告精排模型,实习生侧重模型建模与实验迭代。

二面

  1. 做完整自我介绍,重点突出算法项目与工程落地经历。
  2. 详细阐述百度实习内容、负责模块、模型优化细节。
  3. 针对模型训练过程提问 loss 收敛、调优、迭代相关问题。
  4. 手写 pair-wise hinge loss 伪代码,并说明核心逻辑。
  5. 讲解 pointwise、pairwise、listwise 三种排序方式的区别与适用场景。
  6. 分别说明三种排序范式对应的常用损失函数。
  7. 简要介绍 MinioneRec 整体项目架构与核心创新。
  8. 详细讲解 RQVAE 模型基本原理。
  9. RQVAE 训练中如何解决量化离散问题、保证梯度正常传导?
  10. 介绍 RQVAE 的参数量、码本数量、组合规则及新增 token 设计。
  11. 说明 RQVAE 如何通过解码过程生成 SID 表征。
  12. 对比 SFT 和 GRPO 在训练监督信号上的核心差异。
  13. 详细说明 GRPO 奖励函数的设计思路、正负样本判定逻辑。
  14. 一道零钱兑换相关 DP 变式题。

《参考解析》

「为什么不用现成的 ID Embedding,而要让大模型学 SID」是这套题的主线,回答要把三件事串起来。第一,原生商品 ID 是纯符号、无先验,冷启动商品只有极少曝光,梯度信号稀疏,嵌入基本训不动;语义化 ID(SID)是用内容/行为序列压出来的离散码,天然带相似性先验,冷门商品可以靠共享码本借到邻居的统计量。第二,SID 把「一个商品一个向量」变成「一个商品一串码」,表达能力随码本组合数指数增长,同时把长尾压进有限的码字里,收敛更快。第三,广告精排关心的是泛化到未见过的商品与跨域迁移,语义码比 ID 更容易迁移。

RQVAE 的两个必答点。其一,为什么要残差量化:单层码本容量有限,RQVAE 用多层码本逐层量化残差,第 l 层编码的是前 l-1 层重建后的残差,组合起来能用较小的码本总量表达很大的空间。其二,离散化后的梯度怎么回传:量化操作 argmin 不可导,实践中用直通估计(straight-through),前向取最近码字、反向把梯度原样传给编码器输出;再配合码本损失(commitment loss)约束编码器输出与选中码字不要跑太远,以及码本更新用 EMA 而不是纯梯度下降,避免码字塌缩。回答时补一句「码本利用率」——死码、塌缩怎么监控、怎么做重启或随机重置,这是加分项。

三种排序范式与损失要对得上号:pointwise 把每个样本当独立分类/回归,常用 logloss(CTR)或 MSE;pairwise 只关心两个样本的相对顺序,常用 pair-wise hinge(max(0, margin - (s_pos - s_neg)))与 BPR;listwise 直接优化整个列表,常用 ListNet 的交叉熵、LambdaRank/LambdaMART 的 lambda 梯度,以及 Softmax 形式的 list loss。适用场景上,pointwise 简单、样本利用充分但和排序指标不一致;pairwise 对相对序敏感、适合有明确正负对的场景;listwise 最贴近 NDCG 这类位置敏感指标,代价是实现复杂、对列表构造敏感。

手写 pair-wise hinge loss:loss = mean(max(0, margin - (score_pos - score_neg))),PyTorch 里就是 relu(margin - (s_pos - s_neg)).mean()。要讲清核心逻辑:只有当正样本得分没有超过负样本 margin 时才产生梯度,梯度对正样本是 -1/N、对负样本是 +1/N,训练稳定后大量样本落在 margin 之外、梯度自然稀疏。

SFT 与 GRPO 的差别要落到监督信号上:SFT 是逐 token 的模仿学习,监督信号是「标准答案的下一 token」,样本效率高但对错误路径没有惩罚;GRPO 是强化学习,同一 prompt 采样一组回答,用组内相对优势(reward 减去组均值再除标准差)替代 critic,监督信号来自奖励函数而不是参考答案,能优化不可微的指标。奖励设计要写清可验证的部分(格式、答案正确性、长度约束)与打分方式(规则 + 模型裁判),以及正负样本怎么界定——组内归一化天然给出正负,别把「奖励高」直接等同「正样本」。

两处手撕都不难,难在讲清复杂度:第 K 大用快速选择,随机选 pivot 分区后只递归包含目标的一侧,平均 O(n)、最坏 O(n²);零钱兑换的变式先确认是「求最少硬币」还是「求方案数」——前者是 dp[amount] = min(dp[amount-coin]+1),后者是 dp[amount] += dp[amount-coin],两者循环方向与初值都不同,答之前一定先问清。