大模型推理 面试题
共 3 篇真实面经 · 涵盖 滴滴 / 拼多多 等 2 家公司
滴滴 AI Infra 算法岗一二面面经
滴滴 AI Infra 算法岗一二面:一面考 Attention 优化、KV Cache 显存计算与 ZeRO 分片;二面深挖流水线调度、分布式 Decode 与 PyTorch 编译栈。
滴滴 AI Infra 算法岗一二面面经
滴滴 AI Infra 算法岗一二面面经:一面考 Attention 架构优化、KV Cache 管理、MLA 与线性注意力、GQA 显存估算与 DeepSpeed ZeRO,二面追问调度细节并手撕 CUDA 算子。
拼多多 AI Infra 提前批一面:前缀和算法题与推测解码深挖
拼多多 AI Infra 提前批一面面经,约 30 分钟算法题(删除一段连续区间使剩余和能被 K 整除,追问前缀和取模加哈希优化),随后深挖推测解码项目与 vLLM、KV Cache、PagedAttention、FlashAttention 等推理框架原理。