滴滴大模型算法岗面经:多头注意力、GRPO 与 RAG 全链路九问
- 时间
- 2026-10
- 来源
- 牛客网
《面试题目》
- Transformer 中为什么要用多头注意力?单头注意力有什么局限性?
- GRPO 和 PPO 在 RLHF 中的核心区别是什么?
- vLLM 的核心优势是什么?
- 为什么在推荐系统中引入 RAG?知识库的数据来源和构建流程是怎样的?
- 嵌入模型为什么选 BGE?FAISS 索引是如何构建的?
- RAG 的 chunk 划分策略是什么?
- 什么场景需要 GraphRAG?
- 当输入超过模型上下文长度时,有哪些主流解决方案?
- 手撕:乘积最大子数组(LeetCode 152)。
《参考解析》
多头注意力不是「多个头各看一部分」,而是「在多个子空间里并行做同一种比较」。 每个头有自己的 Q/K/V 投影矩阵,把 d_model 维切成 d_model/h 维后在低维子空间里算注意力,最后拼接再投影回 d_model。好处有三点:一是不同的头可以学到不同类型的依赖(有的头盯相邻位置、有的盯句法结构、有的盯共指),单头只能输出一个平均后的注意力分布,多种模式会被迫挤在同一个 softmax 里互相干扰;二是每个头的计算维度变小,总计算量与单头全维基本相当,等于免费获得了多样性;三是多个头相当于多组独立的注意力子空间,表达能力和稳定性都更好。单头的局限还体现在梯度上——只有一个注意力分布,训练时容易塌到某一种模式,长依赖和局部依赖二选一时必须放弃一个。追问常会跟一句「头越多越好吗」:不是,头数受 d_model/h 限制,头太多会让每个头的维度太小(常见 64 或 128),表达反而退化,这也是后来 GQA/MQA 出现的原因之一。
GRPO 和 PPO 的核心区别是「优势怎么估」。 PPO 在 RLHF 里要配一个与策略同规模的价值网络(critic)来估基线,用 GAE 算优势,显存和算力开销都很大,而且 critic 本身也要训练、会引入额外的不稳定。GRPO(Group Relative Policy Optimization)干脆不要 critic:对同一个 prompt 采样一组(G 个)回复,用奖励模型给每个回复打分,然后在这一组内部做归一化——A_i = (r_i - mean(r)) / std(r),用组内相对好坏当作优势。于是省掉了价值网络、省掉了 GAE,训练更简单也更省显存。代价是采样量必须够大(组太小估计方差大),而且组内归一化会让「全组都很好」或「全组都很差」的样本贡献变小。工程上还要注意:重要性比率的裁剪(clip)两者都有;KL 惩罚 GRPO 通常直接加在损失里(对参考模型的逐 token KL),PPO 则常塞进奖励里。这也解释了为什么 DeepSeek 系模型用 GRPO——它在数学/代码这种「答案可验证、奖励近似二值」的任务上收益最明显。
vLLM 的核心优势是 PagedAttention 带来的显存利用率,而不是「更快的矩阵乘」。 传统推理框架给每个请求预分配一段连续的 KV Cache,按最大长度预留,实际用多少不知道,于是显存被大量浪费(内部碎片 + 外部碎片),能并发的请求数上不去。PagedAttention 把 KV Cache 切成固定大小的 block,用类似操作系统虚拟内存的页表把逻辑位置映射到物理 block,按需分配、可以共享(同一个 prompt 的多个采样分支共享前缀块,beam search 和并行采样都受益)。直接结果是同样的显存能装下多得多的并发请求,吞吐成倍提升;再加上 continuous batching(请求随到随批,不等整批结束)和后来的 chunked prefill,把 GPU 的空转压到很低。要能说出边界:vLLM 优化的是吞吐和显存,单请求的延迟在低并发下不一定比朴素实现更好;极长上下文时 block 管理仍有开销。
推荐系统引入 RAG,本质是把「模型的参数记忆」换成「可实时更新的外部知识」。 推荐场景的三个痛点是参数化模型解决不了的:新物品冷启动(模型没见过)、时效性内容(热点几小时就变)、以及可解释性(为什么给这个用户推这个)。RAG 的做法是在打分或生成前,用用户/上下文去检索一批候选知识(物品属性、同类目爆款、用户近期兴趣标签、运营规则),把检索结果拼进 prompt 或作为特征送进模型。知识库的构建流程是一条标准链路:数据源(商品库、内容库、运营配置、用户行为日志)→ 清洗去重与结构化(统一 id、补属性、剔除失效)→ 切片(按语义单元)→ 向量化(embedding 模型离线批量跑)→ 建索引(向量索引 + 关键词/属性索引做混合检索)→ 增量更新(新物品进库、下架物品标记失效)。工程上最容易被追问的是「怎么保证检索到的不是过期的」:答案是给每条知识带有效期与版本,检索时过滤,而不是指望索引自己更新。
选 BGE 这类模型的理由要落到「中文 + 检索任务 + 可自部署」三点上。 BGE 系列是在大规模中英检索语料上做过对比学习训练的,在中文语义匹配的公开榜单上长期在第一梯队;模型尺寸有多档(small/base/large),可以按延迟预算选;开源可私有化部署,数据不出内网;支持指令前缀(query 前加「为这个句子生成表示以用于检索相关文章」这类 instruction),对「短 query 检索长文档」这种非对称场景效果明显更好。对比 OpenAI 的 embedding 接口,优势是成本与可控性;劣势是要自己维护服务与版本,换模型必须重建整个索引(不同模型的向量空间不通用,这一点一定要能说出来)。FAISS 的构建则是:把所有 chunk 的向量做 L2 归一化(用内积等价余弦)→ 小数据量用 IndexFlatIP 精确检索 → 数据量大换 IndexIVFFlat(先聚 nlist 个类,检索时只扫 nprobe 个桶,用少量召回换速度)或 IndexHNSWFlat(图索引,高召回低延迟但吃内存)→ 建完在样本上测 recall@k 与延迟,调 nprobe/efSearch。
chunk 划分的第一原则是「切出来的块要能被独立理解」。 常见策略按优先级:结构优先(按标题、段落、列表项切,保留层级路径作为元数据)、语义次之(相邻句子向量相似度低于阈值就断开)、长度兜底(超过上限强制切,并带重叠)。参数上的经验值:中文 300–800 字一块、重叠 10%–20%,但真正该调的是「检索单元」和「生成单元」分开——检索用小块(精度高),生成时把相邻块拼起来(上下文完整)。固定长度切分的坏处是会把一张表格或一段代码切成两半,检索到半截反而误导模型,所以遇到表格、代码块、问答对要按整体切,绝不按字符数硬砍。
需要 GraphRAG 的场景有一个共同特征:答案要靠「多个实体之间的关系」拼出来。 典型三类:全局性问题(「这批文档整体在讲哪几个主题、它们怎么关联」——向量检索只能召回局部片段,答不了这种需要跨文档汇总的问题)、多跳问题(A 和 C 的关系要通过 B 才能连起来)、以及需要社区/层级结构的领域(企业关系、供应链、医学知识)。做法是先用 LLM 从文档里抽实体和关系建图,再对图做社区发现并对每个社区生成摘要,查询时既走局部(实体邻域)也走全局(社区摘要)。代价很实在:建图的 LLM 调用成本高、更新麻烦、抽取错误会沿图传播。所以判断标准是「问题是否需要跨越多篇文档做关系推理」,不需要就别上——绝大多数客服问答用普通向量 RAG 就够。
超长输入的解法按「改输入 / 改结构 / 改计算」分三档。 改输入:截断与滑窗分块(最简单,会丢跨段依赖)、检索式压缩(只把相关片段送进去)、用模型做摘要(有损,且摘要本身可能丢关键约束)。改结构:位置编码外推(RoPE 的 NTK 插值、YaRN、位置插值 PI),让模型在训练长度之外仍能保持相对位置关系,成本最低但外推太远会退化。改计算:稀疏/滑窗注意力(Longformer、BigBird)、FlashAttention(省显存不减复杂度)、线性注意力与状态空间模型(Mamba)、以及 KV Cache 压缩(GQA、量化、驱逐策略如 H2O)。面试里加分的答法是带上取舍:真正决定能不能用的是「任务需不需要精确回忆中段的细节」——需要精确召回时,检索式压缩比硬塞长上下文更可靠。
乘积最大子数组的关键是「负数会翻转符号」,所以要多维护一个最小值。 定义 dp_max[i] / dp_min[i] 为「以 i 结尾的子数组的最大/最小乘积」,转移是 dp_max[i] = max(nums[i], nums[i]*dp_max[i-1], nums[i]*dp_min[i-1]),dp_min 同理取 min。直觉是:当前数是负的,乘上前面最小的那个反而变最大。三个初始值是关键——两个 dp 都初始化成 nums[0],答案也从 nums[0] 起,不能初始化成 0 或 1,否则遇到单个负数或全负数数组会错([-2] 的答案是 -2,不是 1)。遍历时用临时变量保存旧的 dp_max 再更新,避免被覆盖;空间可以压到 O(1)。面试官常追问的变体是「返回子数组本身」(记录起止下标)和「和最大子数组的区别」(那道题负数只会拖累,所以只需一维 dp 且可以直接 max(nums[i], dp[i-1]+nums[i]),不需要维护最小值)。