地平线 LLM 推理平台日常实习面试复盘:PPT 讲项目后被追到底层原理
- 轮次
- 技术面
- 时间
- 2026-11
- 来源
- 牛客网
《面试题目》
- 结合 PPT 讲一下教育背景和两个项目。
- 你在这个项目里用到的这些技术,原理是什么?为什么这么选?
- 针对本地部署,你实际做到了什么程度?
- 你用的这个工具,它的能力边界在哪里?它本质上是一个什么样的软件?
- 大模型的结构你了解多少?推理过程里哪些环节是瓶颈?
- 如果让你做推理优化,你会从哪些方向入手?
- 你平时关注行业里的新技术吗?最近看过什么?
- 反问:实习生进去具体做什么?(答:推理优化)
《参考解析》
这类岗位在考什么:LLM 推理平台岗的日常工作是让模型在给定硬件上跑得更快、更省显存、更稳定,因此面试官会顺着简历上的每一个技术名词往下问「原理、边界、你做到哪一步」。帖主的复盘点得很准:只知其然会被一层层问穿,PPT 上写了的每一行都要能展开三层。
必须能讲清的推理侧基础:KV Cache 为什么会随上下文线性增长、PagedAttention 如何用分页管理显存碎片、continuous batching 如何把不同请求拼进同一批、prefill 与 decode 两个阶段的算力与带宽特征差异(prefill 偏计算密集、decode 偏显存带宽)、量化(INT8、FP8、AWQ、GPTQ)在精度与吞吐之间的取舍、投机解码为什么能在不改模型的情况下提速、张量并行与流水并行的适用规模。回答时给一个自己实测过的数字(吞吐、首字延迟、显存占用)比背概念有效。
「本地部署做到什么程度」怎么答:把程度拆成可核对的事实:跑通了哪个模型、用什么框架、单卡还是多卡、量化到什么精度、吞吐与首字延迟是多少、遇到过什么显存或并发问题、怎么定位的。说不清数字就说明只是跟着教程跑过,这时如实讲「跑通并做过压测,但没有做过 kernel 级优化」,比夸大更安全。
工具的能力边界与软件本质:面试官问这类问题是在判断你是否理解工具的抽象层。例如推理框架本质是「调度器 + 显存管理器 + kernel 调用层」,它能做的是把请求编排好并调用高效算子,做不到的是改变模型结构或突破硬件带宽;再如某个部署工具本质是「配置生成器 + 进程管理」,能力边界就在它支持的模型格式与并行策略上。
大模型架构与推理基础怎么补:从 Transformer 的注意力计算量与前向传播的内存访问入手,理解为什么 decode 阶段是 memory-bound;再看主流开源推理栈的论文与文档(vLLM 的 PagedAttention、SGLang 的 RadixAttention),自己动手在单卡上跑一遍并压测不同并发,观察吞吐与延迟曲线的拐点。
PPT 讲项目的结构:每页一个项目,按「问题—方案—我的职责—结果—一个没解决的难点」组织。面试官的追问通常从「没解决的难点」开始,因为那里最能看出真实参与度。