AI Infra 求职劝退贴:面试官建议与个人复盘
- 时间
- 2026-09
- 来源
- 牛客网
《核心观点》
- Infra 方向卷到发指:面试官所在组今年招的几个人都是上海交大博士,2 本 9 硕根本不够看
- 对算子方向持悲观态度:硬核的高性能计算正在被 AI 降维打击
- 推理引擎方向可以走,但卷得离谱
- 接触前沿的东西最好跟社区结合,自己搞的小玩具没什么用
- 「酥化」(指把工作大幅交给 AI 完成)不可避免,不这么做只有找不到工作的结果
- 国产芯片没有统一的架构和指令,过于特化、迁移很难,而且都是吃英伟达尾气,尽量掌握通用知识
- 作者自身情况:纯血 infra 岗面试全挂,非科班自学了 C++、CUDA、PyTorch、大模型、GPU 架构、推理引擎与推理优化算法,半年时间连入门都算不上
- 想走 infra,先自查能不能满足这几点:中九本硕、两段起步的实习、科班或极强的自学能力、有人带着学给指导、愿意跟 C9 华五竞争少得可怜的实习和秋招 HC、有 GPU 资源做个人项目(只做 nanovllm 是扣分项)
- 作者今天才意识到没有 offer 的原因:自己本来就不在这个池子的候选人范围内,即使面试表现不错也没用
- 相对看好的方向是端侧,但同样刚需实习和自学,只是竞争没那么激烈;不卷推理引擎的话,infra 其他方向 HC 更少
- 就业环境整体差,Agent、infra、算法、开发都不好找;建议早做规划,项目和论文都可以交给 AI 做,自己的利益优先
- 以上为个人思考,仅供参考,有不对的地方欢迎指正
《参考解析》
关于「infra 卷到发指」这句判断。它其实描述的是供需结构而不是能力评价:infra 是典型的 HC 少、门槛高、光环大的方向,一个组一年招个位数的人,收到的却是全国科班 + 有实习 + 有 GPU 资源的候选人,于是筛选条件自然上抬到博士、C9、多段大厂实习。这意味着在这里「面试表现好」只是入场券,池子不在里面的人会反复收到「面得不错但没 HC」的反馈。对策不是硬卷,而是先判断自己在哪个池子里:把目标岗位按 HC 数量 × 自身匹配度排个序,HC 极少的方向可以投但不要作为唯一主线,把主要精力放在 HC 相对多、自己背景能讲通的方向上。
关于「算子被 AI 降维打击」。这个观察基本成立,但要说清被打掉的是哪一层。编译器与自动调优(TVM、Triton、Inductor、各类 autotuning)已经能把大量常规算子的实现做到接近手写性能,通用 kernel 的手工优化收益越来越薄;真正还稀缺的是两类人——一类是能把某个具体模型在具体硬件上的端到端瓶颈定位并打出大幅收益的人(融合、量化、并行切分、通信掩盖),另一类是做编译器与运行时本身的人。所以如果只是「会写几个 CUDA kernel」,确实容易被工具替代;要把价值锚在「能定位瓶颈并给出可验证的端到端收益」上,这需要性能分析(Nsight、roofline、算子耗时占比)与上层模型结构理解,而不只是 kernel 技巧。
关于推理引擎为什么仍然稳。因为它的价值不在单个算子,而在系统级的调度与显存管理:连续批处理(continuous batching)、PagedAttention 这类分页 KV Cache 管理、前缀缓存复用、投机解码、多卡并行与 PD 分离,这些直接决定单位算力的吞吐和单 token 成本,是任何公司都要算的经济账。这也解释了为什么它「卷得离谱」——方向有价值,人才供给就跟着挤。想在这个方向建立区分度,光会调 vLLM 参数不够,得能讲清一次请求从进入到首 token 出来的完整路径、瓶颈在哪儿、批大小与排队延迟怎么权衡、显存碎片怎么产生又怎么消除;能自己复现一个简化版推理引擎(调度器 + 分页 KV Cache + 采样)并把吞吐和延迟曲线测出来,是性价比很高的个人项目。
关于国产芯片与「通用知识优先」。国产加速卡的生态现状是硬件架构、编程模型、算子库各自为政,同一份代码换一家就要重写,加上社区工具链成熟度与英伟达有代差,投入产出比在求职阶段并不理想。面试官那句「尽量掌握通用知识」是对的:CUDA 编程模型、并行归约/扫描这类基本范式、显存层级与访存优化、性能分析方法论、分布式训练与推理的并行策略——这些在哪种卡上都成立,迁移成本最低;把赌注押在某家私有指令集上,风险很高。
可行的替代路径与自查清单。如果自查清单里满足不了几条,值得考虑这些方向:端侧推理与端侧部署(手机、PC、车机的模型压缩、量化、运行时适配),它的 HC 相对多一些、也更吃工程能力;训练/推理平台与工程化(数据流水线、任务调度、可观测、成本治理),偏后端工程但贴着 AI;模型应用与 Agent 工程,岗位多、门槛相对友好,但要注意竞争同样激烈、只有真做过端到端系统的人才有区分度。准备动作上,最实在的三件事是:拿到可用的 GPU 资源(学校集群、云上按需租、参加开源项目的算力支持),做两个能跑出真实数字的项目(吞吐/延迟/显存曲线、精度与量化损失对比),以及找一个真实社区(开源项目 issue、算子库、推理框架)持续贡献,让别人能验证你的工程能力而不只是看简历。最后要接受一个现实:这条路的时间成本很高,尽早开始、及时复盘、别把全部筹码压在一个 HC 极少的岗位上。