RoPE 面试题
共 2 篇真实面经 · 涵盖 华为 / 拼多多 等 2 家公司
华为 AI 方向机考 9 月 18 日:10 道选择加全局位注意力编程题
华为 AI 方向 9 月 18 日机考真题:10 道选择题覆盖 RoPE、矩阵维度、余弦相似度、评测指标、CUDA 共享内存、稀疏格点、正态分布、KV Cache、偏差方差与 Kernel 融合流量计算,外加一道 150 分的全局位与窗口注意力编程题。
拼多多大模型算法秋招二面:LoRA 微调与注意力原理
拼多多大模型算法秋招二面,从 LoRA 的低秩假设与 rank 和 alpha 配比切入,覆盖 QLoRA 的量化与训练不稳定、注意力缩放与长上下文优化路线、RoPE 外推与 YaRN,以及显存估算、梯度累积和混合精度溢出排查。