文远知行算法一面与 MiniMax 大模型后训练岗:两条技术路线的考点对照
- 轮次
- 一面
- 时间
- 2026-10
- 来源
- 牛客网
《面试题目》
- 自我介绍,然后讲讲简历上的感知项目。
- 某个检测模型为什么选这个 backbone?数据增强策略是怎么定的?
- 离线指标和车端实际表现出现偏差时,你怎么排查?
- 手写一道数组 / 字符串题,并分析复杂度。
- 给定一段路测数据,如何定位某类漏检的成因?你的拆解顺序是什么?
- SFT 阶段的数据如何清洗与配比?指令数据的多样性怎么保证?
- 训练轮次与过拟合之间如何平衡?
- RLHF 时偏好数据的标注一致性怎么控制?reward model 的泛化能力如何评估?
- PPO 训练不稳定时,有哪些排查手段?
- 如果要在有限算力下提升模型在某个垂直任务上的表现,你会怎么设计后训练流程?
- 手写注意力机制或张量操作,并说明显存占用。
《参考解析》
这篇帖子的价值在「两条路线的提问结构」而不是逐题原题。自动驾驶算法岗的追问方向是「你的设计选择在车端成立吗」:backbone 的选择要能对上算力预算与延迟指标(车端 SoC 的 TOPS、帧率要求),数据增强要能说出针对什么失效场景(夜间、逆光、雨雾),离线 mAP 涨了但车端表现差,排查路径通常是先对齐评测口径(同样的数据分布、同样的后处理与阈值),再看长尾场景覆盖率与标注质量,最后才怀疑模型本身。
漏检归因那题给一个可复用的拆解框架:①先确认漏检的定义与统计口径(IoU 阈值、最小目标尺寸、类别合并);②按维度切片看分布(时间段、天气、距离、遮挡程度、类别),找出集中区域;③区分是「没检到」还是「检到但被 NMS / 阈值滤掉」;④若是没检到,看训练集里这类样本的数量与标注质量,看特征层是否分辨率不足(小目标要更高分辨率或 FPN 层);⑤最后才谈模型容量与损失函数。这个「先定位到具体切片、再二分归因」的思路,比对任何单一指标的解释都更被认可。
后训练那条链路要串起来讲:数据(清洗去重、难度分层、配比、多样性用指令模板与任务类型覆盖度衡量)→ SFT(轮次与过拟合看验证集 loss 与生成质量,早停 + 小学习率 + LoRA 是常规手段)→ 偏好对齐(标注一致性用多人标注的 Kappa / 一致率衡量,冲突样本重标或丢弃)→ reward model(在留出集上看排序准确率与对分布外偏好的稳健性,防 reward hacking)→ PPO / DPO(不稳定时查 reward 尺度与归一化、KL 系数、优势估计的方差、batch 大小与学习率)。有限算力的开放题回答要点是「先做数据、再做对齐、最后才扩参数」:构造高质量垂直指令集 > 用现成基座做 LoRA SFT > 小规模偏好数据做 DPO > 用强模型蒸馏合成数据,每一步都配可量化的评测集。
显存那问要能算:参数量 × 精度字节数(fp16 约 2 字节/参数)+ 梯度 + 优化器状态(Adam 约 8 字节/参数)+ 激活值(与 batch、序列长度、层数成正比),所以 7B 全参训练约需 60GB 以上,LoRA 只训低秩矩阵能把优化器状态压到很小,激活值靠 gradient checkpointing 换显存。