面灵AI→

字节搜索大模型一面:意图识别、RQ-Kmeans 与 GRPO 原理

轮次
一面
时间
2026-11
来源
牛客网

《面试题目》

项目一(搜索链路与意图识别)

  1. 自我介绍。
  2. 搜索完整链路,你负责哪一块?
  3. 意图识别的结果怎么利用?是作为模型特征吗?
  4. 整个搜索链路的时延,针对时延较长的兜底策略是什么?
  5. 为什么用大模型判断意图?输入输出是什么?输入包含用户行为吗?评估指标是什么?基线模型是什么?
  6. 样本标注如何定义?样本采样、样本量、样本正负比例、样本分布是否与线上分布一致?
  7. 数据微调做了哪些工作?其他微调方式?
  8. 过拟合/灾难性遗忘怎么解决?
  9. OPD 了解过吗?
  10. 显存不足怎么解决和优化?分布式训练框架?
  11. 推理优化:词表裁剪规则、推理框架。
  12. 端侧资源消耗。

项目二(生成式召回)

  1. 生成 SID 的 Embedding 模型是什么?有哪些比较好的模型?
  2. RQ-Kmeans 的 K 选取经验、聚类效果评估指标、和普通 Kmeans 的区别、码本大小经验。
  3. 生成式模型的输入输出、样本选取、历史序列处理。
  4. GRPO 原理、奖励函数、为什么不选其他 RL 算法、loss 函数是什么样、DPO/PPO 原理。
  5. 优化一个数学推理任务,用哪种方法比较好?

八股与手撕

  1. 召回/排序具体怎么做?
  2. 双塔召回怎么训练,损失设计、对比损失?
  3. 序列特征建模。
  4. DIN 结构多目标建模。
  5. self-attention 的 QKV 计算过程。
  6. 优化 QKV 计算复杂度的方法。
  7. 手撕:接雨水。

《参考解析》

意图识别为什么用大模型、怎么评估:传统方案是分类模型(TextCNN/BERT 微调)或规则,优点是快、可控;大模型的优势是能处理长尾、多意图、需要语义理解的 query,且可以用 few-shot 快速覆盖新类目。输入通常是 query + 上下文(会话历史、用户画像、地域),是否包含行为序列要看场景——行为能提升准确率但会拉长输入、增加延迟。输出是意图标签或结构化字段(类目、时效性、是否需要澄清)。评估指标:准确率、F1(分意图看)、以及下游指标(点击率、首条满足率、无结果率)。基线是原分类模型或规则。关键是要说清楚「大模型比基线好多少、代价是什么(延迟、成本)」,以及「怎么保证线上分布与训练分布一致」——用线上采样 + 分层采样,监控预测分布漂移。

时延与兜底:搜索链路是「query 理解 → 召回(多路)→ 粗排 → 精排 → 重排 → 展示」,每段有预算(如总 200ms,理解 20ms、召回 50ms、排序 100ms)。大模型判意图如果超时,兜底到小模型或规则;召回某一路超时就降级为其他路;排序超时用粗排结果先展示。要做超时控制、熔断、结果缓存(相同 query 复用)。

过拟合与灾难性遗忘:过拟合——数据量不足时用 LoRA/少样本、加正则与 dropout、早停、验证集监控;灾难性遗忘——全参微调会让模型丢失通用能力,解法有:混入通用数据(replay)、LoRA/Adapter 只训练少量参数、正则化约束参数偏移(EWC)、分阶段训练、以及用「基座 + 适配器」部署。评估遗忘要看通用 benchmark 的前后对比,而不只看目标任务。

显存不足:换算与优化手段——混合精度(fp16/bf16)、梯度检查点(用计算换显存)、ZeRO 分阶段(优化器状态/梯度/参数分片)、张量并行与流水线并行、offload 到 CPU/NVMe、减小 batch 与序列长度、LoRA 减少可训练参数、FlashAttention 降低注意力显存。框架:DeepSpeed、Megatron-LM、FSDP、Colossal-AI。

推理优化与词表裁剪:词表裁剪是把 softmax 限制在候选子集(按领域词表、按检索候选),降低输出层计算与显存;还有量化(INT8/FP8)、KV Cache 管理(PagedAttention)、连续批处理(continuous batching)、投机解码、算子融合。推理框架:vLLM、TensorRT-LLM、SGLang。端侧要额外考虑内存带宽、功耗、模型压缩(蒸馏、量化、剪枝)。

RQ-Kmeans 与 SID:生成式召回把物品量化成离散 token(SID),用生成模型预测用户可能感兴趣的 SID。RQ-Kmeans(残差量化 K-means)逐层量化残差:第一层聚类得到粗粒度码本,第二层对残差再聚类,依次叠加,用多个码字组合表示一个物品,效果优于单层 Kmeans(码本容量指数增长但每层码本小)。K 的选取:看聚类指标(轮廓系数、Davies-Bouldin)、码本利用率(是否有大量空簇)、以及下游召回效果;码本太大会稀疏、太小会欠拟合。与普通 Kmeans 的区别在于「多层残差」与「组合编码」。

GRPO 与 PPO/DPO:GRPO(Group Relative Policy Optimization)用同一 prompt 采样一组回答,用组内相对优势(减去组均值、除以标准差)替代 critic 网络,省掉 value model,降低显存与训练复杂度;奖励可以是规则(答案正确、格式正确)或模型打分。PPO 需要 critic 估计优势,稳定但成本高;DPO 直接用偏好对做监督式优化,不需要在线采样与奖励模型,简单稳定但依赖偏好数据质量、且不能探索。数学推理任务通常用 GRPO/PPO 这类带可验证奖励的 RL(答案对错可自动判定),因为 DPO 需要偏好对、难以覆盖推理过程;如果只有「好/坏」的偏好数据,DPO 更省事。

召回与排序:召回是多路(向量、倒排、热门、协同过滤、生成式),目标是高召回、低延迟;排序是精排(CTR/CVR 多目标),目标是准。双塔召回:用户塔与物品塔分别编码,用内积/余弦算相似度,训练用 sampled softmax 或对比损失(in-batch negative),负样本质量决定效果。序列特征建模:用 DIN(注意力看历史行为与候选的相关性)、DIEN(兴趣演化)、Transformer 序列建模。DIN 的多目标:在输出层接多个塔(CTR、CVR、完播等),用共享底层 + 各自塔,损失加权或 MMoE。

Self-Attention 的 QKV:输入 X 乘三个权重矩阵得到 Q、K、V;计算 scores = QK^T / sqrt(d_k),softmax 归一化后乘 V。复杂度 O(n²d),n 是序列长度。优化:稀疏注意力、滑动窗口(Longformer)、线性注意力、FlashAttention(不改变复杂度但减少显存与 IO)、KV 缓存(推理时避免重复计算历史)、GQA/MQA(减少 KV 头数)。

接雨水:双指针法——左右指针向中间移动,维护左右最大高度,每次移动较矮的一侧并累加 maxHeight - height[i],时间 O(n)、空间 O(1)。也可以单调栈(按层计算)或动态规划预处理左右最大值。要能说清楚「为什么移动较矮的一侧」——因为该侧的积水高度由较矮的边界决定。