vLLM 面试题
共 4 篇真实面经 · 涵盖 阿里云 / 蚂蚁集团 / 拼多多 / 腾讯 等 4 家公司
阿里云 Agent Infra 一面:SGX、EPC、512MB、吞吐不升反降
阿里云 Agent Infra 一面面经:从 Intel SGX 的 EPC 512MB 与多租户数据安全切入,追问 PV 变 4 倍吞吐不升的定位,再考沙箱多租户隔离与容器重启状态恢复、通用 Agent Runtime 的多模型抽象、长序列训练显存与 vLLM PagedAttention,最后手撕嵌套字符串解析。
蚂蚁集团大模型算法岗面经
蚂蚁集团大模型算法岗多轮面经汇总,重点考察 PPO/GRPO 的四个模型与损失函数、KL 估计方式、rollout 与 batchsize 的资源关系、拒绝采样、Agent 记忆系统设计与 vLLM 推理加速,另有 RAG 混合检索与术语消歧、LoRA 微调层选择、高并发低延迟部署等落地问题。
拼多多 AI Infra 提前批一面:前缀和算法题与推测解码深挖
拼多多 AI Infra 提前批一面面经,约 30 分钟算法题(删除一段连续区间使剩余和能被 K 整除,追问前缀和取模加哈希优化),随后深挖推测解码项目与 vLLM、KV Cache、PagedAttention、FlashAttention 等推理框架原理。
腾讯 Agent Infra 面经:SGX 沙箱与推理性能排查
腾讯 Agent Infra 面经:考察自动化稳定性、Intel SGX 多租户与 EPC 换页安全、沙箱隔离与容器重启后的状态恢复,并追问多模型抽象与链路追踪,以及 KV Cache、PagedAttention 等推理优化。