FlashAttention 面试题
共 3 篇真实面经 · 涵盖 华为 / 拼多多 / 小红书 等 3 家公司
华为 AI 方向机考 9 月 18 日:10 道选择加全局位注意力编程题
华为 AI 方向 9 月 18 日机考真题:10 道选择题覆盖 RoPE、矩阵维度、余弦相似度、评测指标、CUDA 共享内存、稀疏格点、正态分布、KV Cache、偏差方差与 Kernel 融合流量计算,外加一道 150 分的全局位与窗口注意力编程题。
拼多多 AI Infra 提前批一面:前缀和算法题与推测解码深挖
拼多多 AI Infra 提前批一面面经,约 30 分钟算法题(删除一段连续区间使剩余和能被 K 整除,追问前缀和取模加哈希优化),随后深挖推测解码项目与 vLLM、KV Cache、PagedAttention、FlashAttention 等推理框架原理。
小红书 大模型算法岗面经合集(三):Transformer 细节、DPO 与推理优化
小红书大模型算法岗九场面经合集(三),2025 年 12 月至 2026 年 1 月。覆盖 Transformer 结构与 GQA,微调 7B 显存估算、FlashAttention、DPO 与 RAG 微调,以及 PPO、GRPO 差异。