Transformer 面试题
共 43 篇真实面经 · 涵盖 白龙马云行 / 字节跳动 / 海尔 / 某公司 / 思必驰 等 26 家公司
白龙马云行 AI 后端一面:RAG 多模态、Transformer 与 G1 回收器
白龙马云行 AI 后端开发一面 50 分钟、20 个问题:从笔试题现场完善、研究生课题与模型全流程,到 AI 后端与普通后端的区别、AI 编码占比、skill 质量保障,再进入 RAG 的多模态支持与文档切片、Transformer 原理与上下文限制、KV Cache、temperature,最后是 G1 回收过程、MySQL 回滚与 B+ 树。帖主一面通过、二面拒绝。
字节后端 / Agent 开发二面:Ontology 平台深挖与每秒一万任务的延迟调度设计
字节后端 / Agent 开发二面,约 54 分钟,线上技术面加在线 Coding。前半段深挖实习的 Ontology 平台:16 个业务本体、30 多个 Action 用什么管理,元数据怎么被消费,HTTP 到 JSF RPC 的柔性调用链是什么,平台效果与业务收益如何衡量,以及 Ontology 为什么在 AI 背景下重新受关注;随后问确定性规则与幻觉治理(前置 JSON Schema 校验、后置规则断言)。系统设计题是每秒约一万个提交、支持取消的延迟任务模块,连追轮询间隔、批量大小、多实例重复消费与是否需要外部持久化。最后看个人博客、问 AI 学习路径与《Attention Is All You Need》、多头注意力,Coding 是组合总和。
字节大模型算法三面:从 Transformer 复杂度推到成本结构
字节大模型算法三面实录:22 道题覆盖项目归因、Transformer 复杂度推导、MHA/MQA/GQA 的 KV Cache、VAE 损失与训练工程,手撕三维积木堆叠。
字节推荐大模型算法岗一二面:归一化、MoE 与 Attention 细节
字节推荐大模型算法岗一二面:一面围绕论文项目与 Transformer 基本功(BN/LN、Pre-Norm/Post-Norm、Softmax 溢出、Attention 缩放)加手撕最长有效括号;二面转向 MoE(稀疏体现在哪、Router 与 Top-K、专家坍缩、负载均衡)与实验方法论,手撕编辑距离。
字节推荐大模型算法岗一二面:归一化、MoE 与 Attention 细节
字节推荐大模型算法岗一二面:一面围绕论文项目与 Transformer 基本功(BN/LN、Pre-Norm/Post-Norm、Softmax 溢出、Attention 缩放)加手撕最长有效括号;二面转向 MoE(稀疏体现在哪、Router 与 Top-K、专家坍缩、负载均衡)与实验方法论,手撕编辑距离。
海尔 Agent 系统工程师 一面:为什么用 LangGraph、记忆怎么管
海尔智家 Agent 系统工程师一面 25 分钟:Transformer 与 Transformer 架构的取舍、攻击检测原理、LangGraph 选型、记忆与状态管理、为什么没有本地部署。
手推 self-attention 与 O(n²):除根号 d_k、多头与复杂度怎么答
一道高频面试题的真实追问链:面试官让手推 self-attention 并解释为什么复杂度是 O(n²),帖主第一次把 O(n²d) 与 O(n²) 说混被打断纠正;随后追问为什么要除 √d_k、多头到底在表达什么、复杂度里 n 和 d 各指什么,最后用「FlashAttention 是在 IO 层面优化、没有改变复杂度」收尾。
思必驰训推平台一面:口述 decoder-only 模型处理一次请求
思必驰训推平台一面以项目追问为主,技术题是一道口述题:讲清 decoder-only Transformer 架构处理一次请求的完整流程。帖文只记录到这两个环节。
35 家 AI 公司面经统计:考得最多的是机器学习基础,Transformer 只排第三
一份覆盖 35 家 AI 公司、约 480 道题的面经统计:出现频次最高的是机器学习基础,第二是简历项目深挖,Transformer 只排第三,代码题比重也很高。结论是 AI 岗面试正在回归基础,模型结构已经成了门槛项而不是区分项。
BOSS 直聘 Agent 开发面经:从 Transformer、LoRA 追到工具调用率与意图路由
BOSS 直聘 Agent 开发面经:八股从 Transformer 架构、微调方式、LoRA 讲到数据库索引的三个连环问,项目部分深挖 Agent 实习里的知识库效果排查、工具调用率、分层路由跑偏、残缺语义的意图识别,以及要不要用 skill 替代专门的意图分类模型。
10.22 字节跳动大模型算法三面:Transformer 复杂度推导与训练工程追问
字节跳动大模型算法三面:从项目归因问到 Transformer 复杂度推导与成本结构,再落到 KV cache、位置编码外推、混合精度与 ZeRO 等训练工程,最后手撕三维积木堆叠。
字节跳动 大模型算法 三面:项目归因、Transformer 与手撕
字节跳动大模型算法三面,10.19 北京,全程围绕简历上「召回率提升 12%」深挖四十分钟,另有 Transformer 复杂度推导、BCE/VAE 损失和三维积木堆叠手撕。
滴滴 企业级算法实习生 一面
滴滴企业级算法实习生一面面经:四十分钟几乎全在问实习与项目,围绕 agent 框架选型与模型选择、微调与 RL、badcase 与评估指标维度、数据集格式与自监督训练效果验证、DPO 训练流程与数据来源、agent 编排与重试评判,最后问 Transformer/MHA/KV Cache 与 AI 辅助编程。
滴滴大模型算法岗面经:多头注意力、GRPO 与 RAG 全链路九问
滴滴大模型算法岗一面九问,一条线从模型原理拉到 RAG 工程:多头注意力的动机与单头局限、GRPO 与 PPO 在 RLHF 里的核心区别、vLLM 的吞吐来源、推荐系统为什么引入 RAG 及知识库的构建流程、嵌入模型为什么选 BGE 与 FAISS 索引怎么建、chunk 划分策略、什么场景需要 GraphRAG、超长输入的几种主流解法,最后手撕乘积最大子数组。
高斯信息技术 AI 开发工程师一面:BERT微调与LangGraph编排
高斯信息技术 AI 开发工程师一面面经:以项目深挖为主线,追问 BERT 微调与知识图谱设计,再考 Transformer、LangGraph 编排、图谱检索与 RAG 差异,以及工程广度与 AI Coding 心得。
广州某小厂 AI 应用开发实习面试:LoRA 显存、PEFT 与量化的连环追问
一篇非科班同学的 AI 应用开发实习面试记录(项目是本地跑的 LoRA 微调):LoRA 训练到底用没用显卡、微调是什么、为什么选 qwen3-4b、Transformer 分几部分、训练结果不符合预期除了调参还能做什么、怎么训的、用的什么模型(作者提 Codex 被面试官指出那只是框架)、PEFT 与量化分别是什么,作者自评基础差导致挂掉。
恒生电子 Java开发一面凉经(10.10)
恒生电子 Java 后端开发一面凉经,约 20 分钟:操作系统记忆点、进程与线程区别、Transformer 理解与应用心得、本地部署与参数调优、Token 计算、大模型幻觉及解决、高并发本地生活项目防超卖链路,以及方案决策冲突的处理。
荣耀推荐算法一二面:SID、生成式推荐与推理加速
荣耀线下一二面:一面问 SID 与 item ID 的区别、生成式推荐的一对多与检索效率、用户序列构建、离线在线一致性,手撕按出现次数排序;二面问 Transformer、多头注意力、MoE、AWQ 与推理加速。
华为 AI 方向机考 10·23:自注意力复杂度、KV Cache 内存池与朴素贝叶斯纠错
华为 2026 年 10 月 23 日 AI 方向机考:第一部分 10 道选择题共 150 分,覆盖自注意力复杂度、池化作用、PCA、大模型评测指标、线性相关、泊松分布、因果掩码、NHWC 内存布局、RNN 递推与 F1;第二部分两道编程题——KV Cache 的 Block 内存池调度(150 分)与基于朴素贝叶斯的字符级 OCR 纠错(300 分)。
华为AI方向机考10月14日笔试题与解析
华为 AI 方向 10 月 14 日机考真题:20 道选择题(张量并行通信、量化与精度、过拟合判据、混淆矩阵与 F1、BPE 领域分词、浮点消去、对抗样本)加一道 150 分的 Masked Fused RMSNorm 编程题,含输入输出要求与样例。
华为大模型算法岗一面:从 loss 不收敛问到 MoE、LoRA 与 GRPO
华为大模型算法岗一面:从实习与项目切入,连问 loss 不收敛的排查角度、Transformer 复杂度与优化、MHA/MQA/GQA 之外的注意力变体(点名 DeepSeek、Qwen)、FFN 结构与替代设计、归一化、MoE 路由与共享专家、前向反向传播、LoRA 原理、PPO/GRPO/DPO 对比与 GRPO 去掉 Critic 的原因、数据清洗与数据集搭建,最后手撕三数之和及其变体。
空山慈 AI Agent 一面:Transformer、训练资源与医疗 AI 方向
空山慈 AI agent 一面(10.26):从毕业时间、AI 框架与 PyTorch 项目问到用的什么卡、几张卡、数据集多大,再聊 Transformer、医学影像经验与是否愿意深耕医疗 AI,最后问到日常 AI 工具与国产模型。
美团 AI 应用开发一面面经(通过)
美团 AI 应用开发一面,从电商客服项目切入,深挖召回串味的排查与意图路由、长答案句子级切片;八股考 Transformer 注意力机制与 KV 缓存、多轮对话状态存储,手撕最长无重复子串,整体偏项目取舍而非背诵。
南方基金 AI 应用大模型方向:笔试题目与一面面经
南方基金 AI 应用大模型方向秋招记录:笔试考 Transformer 归一化选择、ReAct 的错误传递与循环漂移、Self-Consistency 与推测解码、旋转矩阵算法;一面 15 分钟全程问简历,围绕 Agent 记忆管理、主流架构、Prompt 版本控制与模型训练参数量/数据来源/评测展开。
vivo 大模型算法岗校招面经:CV、压缩部署与 HR 面
vivo 大模型算法岗校招两面面经:技术面围绕 YOLO/SSD、Anchor 机制、剪枝量化部署、CTC/CLIP/Transformer 和大模型趋势展开,HR 面重点考察自我认知与稳定性。
文远知行一面:自动驾驶算法验证的传感器、多模态与场景测试设计
文远知行自动驾驶算法验证一面,围绕摄像头与激光雷达的差异、多模态与端到端算法、行人摔倒场景的数据采集与测试用例设计,以及 UNet、Transformer 等模型考点展开。
小红书算法岗面经合集:Uplift 建模、Transformer 细节与推荐召回
小红书算法岗七场面试合集:增长侧深挖特征重要性的判别方法、uplift 建模与发券决策、混淆偏差与选择偏差的区分和评估指标;科研与 NLP 侧围绕知识图谱问答链路的实现、MRR 与 Hit@k、nDCG、KL 散度与交叉熵的取舍展开;Transformer 部分被追问一小时,覆盖缩放点积注意力的假设、位置编码方案、多头与 MHA、LayerNorm 与 BatchNorm、Encoder 与 Decoder 的区别;此外还有 MQA 与 GQA、PPO 与 DPO 与 GRPO 的对比、多路召回权重与规则召回、CVR 样本空间,以及用户安全审核岗的申诉处理与内容审核评估。
小米 预测算法 一面:空洞卷积与消融实验的项目拷打
小米预测算法一面全程拷打项目:第一个项目追问问题定义、输入输出、方案选型与数据标注来源,盯住「误差下降 1%」的对比口径与消融实验,再问空洞卷积为什么能扩大感受野;第二个项目问数据集与标签、Transformer 与综合损失、上位机和嵌入式端的 UDP 通信为何自研。
阿里千问二面:Agent平台、评测体系与训练基础
阿里千问二面面经,共29问。前半场深挖Agent工程化:Skill与CLI及Runtime职责划分、工具调用链路、评测系统与Trace指标、自研评测取舍、多用户会话隔离;后半场转向Transformer原理与训练推理基础设施。
字节多模态大模型一面二面三面:从 Lora 微调到手撕算法
字节多模态大模型岗三面连轴面经:一面围绕论文与 RAG 项目、质量过滤模型、LoRA 原理、Transformer 自注意力与 BERT/GPT 差异、RLHF 与 DPO,手撕最长公共子序列;二面拷打多模态训练与 Prompt 验证、数据清洗、CLIP、幻觉与复读机、前馈网络升维降维、LLaMA 版本差异;三面偏开放,聊对大模型结构演进与训练难点的理解。
滴滴算法面经合集:RL 八股与 Agent 项目深挖
滴滴算法岗面经合集。以强化学习八股为主:PPO/GRPO/DPO/DAPO 区别、组内优势、熵坍塌、动态采样、clip 与 reward hacking,另含 SFT 与 RL 取舍、Agent 项目深挖与 Transformer 手撕。
华为大模型算法岗面经:LoRA、PPO 与 Transformer
华为大模型算法岗面经,覆盖数据清洗与数据集构建、LoRA 微调原理、前向反向传播与参数更新、PPO 与 GRPO 与 DPO 的区别、多模态与智驾模型、ViT 与 VLA 原理,以及和为 k 的最长子数组算法题。
美团 9.19 笔试 十道 AI 选择题与因子数量题
美团 9.19 笔试复盘:10 道单选几乎都与 AI 相关,覆盖多 Agent 共享事实、Transformer-XL、ZeRO-3 显存、KMP 与二分比较次数、RLHF 与 PPO、子网掩码和 ViT;编程题为两数相乘后因子数量最大值。
拼多多大模型算法秋招二面:LoRA 微调与注意力原理
拼多多大模型算法秋招二面,从 LoRA 的低秩假设与 rank 和 alpha 配比切入,覆盖 QLoRA 的量化与训练不稳定、注意力缩放与长上下文优化路线、RoPE 外推与 YaRN,以及显存估算、梯度累积和混合精度溢出排查。
SHEIN Agent开发秋招面经:Java基础与Transformer
SHEIN Agent 开发秋招面经,约 50 分钟,按 Java 基础 20 分钟、项目深挖 20 分钟、Transformer 与 AI 10 分钟推进,题目涉及 ConcurrentHashMap、多头注意力与 BLIP2 架构。
小红书 大模型算法岗面经合集(三):Transformer 细节、DPO 与推理优化
小红书大模型算法岗九场面经合集(三),2025 年 12 月至 2026 年 1 月。覆盖 Transformer 结构与 GQA,微调 7B 显存估算、FlashAttention、DPO 与 RAG 微调,以及 PPO、GRPO 差异。
小红书 多模态算法实习 一二面
小红书多模态算法实习一、二面记录:一面围绕自动驾驶项目与多模态对齐论文深挖,追问 BERT 核心设计思想、ViT 与文本 Transformer 的结构差异及分类落地方式,手写整数平方根;二面继续项目与论文深挖,问 Transformer 原理与残差连接,手撕最长回文子串。
小红书 多模态算法实习 一面二面面经
小红书多模态算法实习一面与二面记录,一面深挖自动驾驶项目、追问多模态对齐论文的数学原理与损失函数设计、比较 BERT 与 ViT 的结构差异,手写整数平方根;二面重讲线上项目与论文工作,考察 Transformer 原理和残差连接,手撕最长回文字符串。
小鹏二面:Transformer 基础与端侧 Agent Harness
小鹏端侧 Agent 岗二面面经:由实习项目切入 Transformer 基础(结构差异、QKV 计算、多头注意力、LoRA),再深挖 Agent Harness 职责与端侧迁移难点。
匿名 AI 医学公司一面:从 SVM 到 Transformer、ViT 的基础拷打
一家做 AI 医学的匿名公司一面记录(9 月 23 日,约 1 小时 10 分钟):从本科专业课与模式识别切入,连问 SVM、CNN、RNN 到 Transformer 与 ViT,追问自注意力与编解码结构、GPT 与 BERT 的差别,并现场考察文献阅读能力。
同花顺27届秋招笔试面经(6.30)
同花顺27届秋招笔试面经,选择题考察Java基础语法和MySQL知识,编程题以模拟与库函数使用为主,另外还考了Prompt编写设计原则和Transformer架构原理等AI相关内容。
美团 AI 产品经理实习面经
美团 AI 产品实习面试记录,覆盖模型训练协作、Bad Case 评测、RAG 优化、BERT 与 Transformer、过拟合及大小模型选型。
货拉拉Java实习面试题分享
分享货拉拉Java实习面试经历,涵盖手撕AOP、36进制加法、MySQL索引优化与分表策略、Redis多级缓存与穿透处理、Transformer自注意力机制及Java锁机制深度解析,助你掌握后端高频考点。