比特大陆/算能算法工程师校招二面:一场「训练 + 量化 + 部署」的完整体检
- 轮次
- 一面、二面
- 时间
- 2026-10
- 来源
- 牛客网
《面试题目》
- 请做一下自我介绍(一面)。
- Warmup 的原理是什么?同步 BN 是什么、什么场景要用?
- 介绍一下地平线的量化算法与量化训练,它和 TensorRT 有什么区别?
- 介绍一下你的海思芯片项目,为什么不全用 X1 芯片?
- 代码题:字符串匹配,用正则表达式、
re.match实现。 - 请再做一次自我介绍(二面)。
- No Bias Decay 的原理是什么?Label Smoothing 的原理是什么?
- YOLO 的 batch size 设置多大,为什么?不可以再大一点吗?
- 初始化方法知道哪些?
- 对深度学习框架更熟悉哪个?TensorFlow 熟悉吗?
- 用的是什么优化器?
- PE 可执行文件格式是什么?
《参考解析》
Warmup 与 SyncBN:Warmup 解决的是训练初期梯度方向不稳定——权重随机初始化时用大学习率容易让 loss 震荡甚至发散,所以前若干个 epoch 让学习率从 0 线性(或余弦)升到目标值,再切回正常 schedule。它在大 batch 和 Adam 类优化器下更关键,因为初期 BN 统计量本身也在剧烈变化。SyncBN 解决的是单卡 batch 太小导致 BN 的均值方差估计不准:把各卡的统计量做 all-reduce 后再归一化,等价于用全局 batch 统计。检测和分割模型输入分辨率大、单卡常常只能放 2~8 张图,这时候开 SyncBN 明显更稳;代价是每次前向多一次跨卡通信,小模型上收益可能抵不过开销。
QAT、PTQ 与 TensorRT 的区别:PTQ 是训练完之后用校准集统计激活分布直接转量化,快但精度可能掉,适合分类这类对精度不敏感的模型;QAT 是在训练/微调阶段插入伪量化节点(fake quant),前向模拟量化误差、反向正常更新权重,精度高但流程重。地平线这类端侧芯片厂通常给的是整套工具链:QAT 为主、配合 per-channel 量化和 KL/min-max 校准,再叠蒸馏(全精度 teacher 指导量化 student),因为它们的价值在于”从模型到自家 BPU 的垂直优化”。TensorRT 是英伟达 GPU 上的推理优化框架,强在 PTQ、算子融合和 kernel 自动调优,QAT 支持依赖插件,硬件绑定 CUDA。答的时候把”定位(训练链路 vs 推理加速)、量化能力、硬件、生态”四个维度摆开,比单说”都是量化”清楚。
量化掉点怎么恢复:这是这类岗位的高频追问。常用手段有:换更细的粒度(per-tensor → per-channel → 分组量化)、对敏感层保留高精度(混合精度)、用更好的校准集(覆盖真实分布、别只用训练集子集)、QAT 里加蒸馏与 cosine 退火、调量化范围的截断阈值(KL 散度比 min-max 更稳)、以及对第一层和最后一层特殊处理。
芯片选型(为什么不全用 X1):回答框架是五个维度的 trade-off——算力(X1 强但低端产品用不上)、成本(单颗价格直接决定 BOM)、功耗与散热(部分场景功耗预算卡死)、开发周期(换平台涉及算子适配、驱动移植、工具链切换)、供货与产能(大客户项目要稳定供给)。结论是分层部署:低端走 MCU 或海思,高端走 X1,按产品定位分配,而不是”越强越好”。
Batch size 的约束:以 YOLO 为例,单卡常见 8~16、总 batch 64 左右。不能无限调大的原因有四条:显存(640/1280 分辨率下特征图很大,batch 翻倍显存基本翻倍)、BN 统计量(batch 过大统计量过于平滑,且后续量化时 BN 折叠更复杂)、收敛性(梯度的噪声被平均掉,容易收敛到尖锐极小值、泛化变差)、学习率联动(batch 翻倍要按线性或平方根规则调 lr,还要配 warmup)。所以答”我一般用多少”之后必须解释”为什么不能再大”。
初始化与优化器:初始化要报得出名字和对应场景——全零/常数几乎不用(对称性导致所有神经元同步更新);随机正态/均匀是 baseline 但方差不好控;Xavier 适合 tanh/sigmoid 这类饱和激活,保持前后向方差一致;Kaiming 适合 ReLU 系列,考虑了负半轴被置零;正交初始化常用于 RNN/LSTM;实际项目里最常用的是 ImageNet 预训练权重 + 新头 Kaiming。优化器方面:CNN 检测任务常用 SGD + Momentum 0.9、weight decay 5e-4、cos 衰减,泛化通常更好;Transformer 类用 AdamW(把 weight decay 从梯度里解耦);Adam 收敛快但在一些视觉任务上泛化略差。回答时把优化器和模型结构、正则策略一起讲,显得是真调过。
No Bias Decay 与 Label Smoothing:No Bias Decay 的思路是”不是所有参数都该被同样衰减”——bias 只做平移、BN 的 γ/β 也只做缩放平移,对它们做 weight decay 会强行把偏移压向 0,损害表达能力。实现上给优化器分组:weight 组带 decay,bias 与 BN 参数组 weight_decay=0。Label Smoothing 是把 one-hot 硬标签换成软标签 y = (1-ε)·onehot + ε/K,降低模型对正确类的过度自信,提升泛化,分类与细粒度任务上收益稳定;代价是模型输出的置信度不再是”准确率”,做阈值判断时要重新校准。
PE 格式:Windows 下 exe/dll/sys 的标准可执行格式,结构从 DOS Header(MZ 签名)→ DOS Stub → PE Signature(PE\0\0)→ COFF File Header(机器类型、节区数、时间戳)→ Optional Header(入口点 RVA、镜像基址、对齐粒度)→ Section Table(.text/.data/.rdata/.rsrc)→ 各节区数据。关键字段是 AddressOfEntryPoint、ImageBase、Section/File Alignment 以及导入表(IAT/INT)和导出表。芯片厂问这个,是在看你有没有系统软件与工具链的底层意识——模型编译产物最终要变成某种可加载的二进制,理解链接与加载机制,移植新工具链时才不会卡住。
字符串匹配题:这题考的是工具选择而不是 KMP。re.match 只从字符串开头匹配,开头不匹配就返回 None;re.search 扫全文找第一处;re.findall 返回全部。工程里日志提取 loss/耗时、配置解析、文本清洗都用得上。作答时先说清匹配规则(是否锚定开头、是否需要多组、有无特殊字符要转义),再写正则,最后跑空串、特殊字符、多组匹配几个用例。