面灵AI→

广州某小厂 AI 应用开发实习面试:LoRA 显存、PEFT 与量化的连环追问

时间
2026-10
来源
牛客网

《面试题目》

  1. LoRA 有没有用显卡?是在 CPU 上跑的吗?
  2. 微调是什么?
  3. 为什么选 qwen3-4b?
  4. 说说 Transformer 分成几个部分?
  5. 训练结果不符合预期怎么办?除了调参数还有什么办法?
  6. 怎么训练的模型?
  7. AI 用的是什么模型?(作者提到 Codex,面试官说那只是一个框架)
  8. PEFT 是什么?介绍下。
  9. 量化是什么?什么作用?

《参考解析》

「LoRA 有没有用显卡」考的是你有没有真的跑过。 训练一定要 GPU:4B 模型全参微调需要几十 GB 显存,LoRA 只训练低秩旁路(可训练参数通常不到 1%),显存需求大幅下降,但仍然是 GPU 的活——一张 16GB 左右的卡配合 4bit 量化(QLoRA)可以做小批量微调。CPU 上不是不能跑,是慢到不实用(推理可以,训练基本不可行)。回答时要能给出具体的证据:显卡型号与显存、batch size、最大序列长度、单步耗时、训练了几个 epoch、显存峰值多少。这些数字一报,面试官立刻知道你是真做过还是看了教程。

微调的本质是「用领域数据继续训练预训练模型,让它的输出分布偏向你的任务」。 要说清三件事:它和提示工程(不改权重,只改输入)、RAG(不改权重,靠检索补知识)、从零训练(成本天差地别)的区别;它适合改「行为与格式」(语气、结构化输出、领域术语用法),不适合灌「事实知识」(那是 RAG 的活,硬塞进权重容易幻觉且无法更新);以及全参微调与参数高效微调(PEFT)的分野。

为什么选 qwen3-4b,正确答法是「约束驱动的选型」。 可以从四个维度讲:语言与领域适配(中文能力、是否支持工具调用与长上下文)、许可与可得性(开源权重、可商用)、硬件约束(4B 在量化后能塞进单张消费级显卡,7B/14B 就未必)、以及任务难度(如果任务只是格式化抽取或分类,4B 够用;需要复杂推理就得上更大模型或换更强的 API)。最后补一句「选完要做基线对比:同样的数据下 4B 与小一号/大一号模型的评测差异」,这才叫选型而不是跟风。

Transformer 的结构按「编码器/解码器 + 三个组件」讲最清楚。 组件层:多头自注意力(捕捉 token 间关系,decoder 侧带因果掩码)、前馈网络(逐位置的两层 MLP,承担大部分参数)、残差连接 + LayerNorm(稳定训练);此外还有位置编码(正弦或 RoPE)、embedding 层与输出层(常与 embedding 共享权重)。架构层:encoder-only(BERT 类,做理解与分类)、decoder-only(GPT/Qwen 类,做生成,当前主流)、encoder-decoder(T5 类,做翻译与摘要)。追问「为什么 decoder-only 成了主流」时可以答:训练目标统一、scaling 表现好、推理时天然支持流式与 KV Cache 复用。

训练结果不符合预期,先判断「是哪一类不符合」,再决定改什么。 四种典型症状与对策:① loss 不降——学习率过大/过小、数据格式与模板不对(最常见)、标签错位;② 训练 loss 降但验证 loss 升——过拟合,减 epoch、加数据、加正则、降 LoRA rank;③ 输出复读或格式崩坏——数据里模板不一致、截断策略切断了答案、packing 把多条样本粘在一起;④ 评测指标不动但肉眼看着变好——评测集与任务不匹配,需要重建评测。除了调参还能做的事:清洗与扩充数据(去重、纠正错误标注、平衡类别)、改任务形式(把生成改成抽取/分类,或加 few-shot 示例)、换方案(提示工程或 RAG 可能比微调更划算)、做错误分析(把验证集错误分类统计,找出 top 失败模式)、以及确认基线(先用未微调模型 + 好提示词跑一遍,很多时候微调是在补提示词的债)。

「怎么训练的」要能讲出完整链路。 数据准备(来源、清洗、去重、转成对话模板、划分 train/val)→ 环境(框架选型如 LLaMA-Factory/peft/trl,显卡与精度)→ 超参(学习率、batch、梯度累积、warmup、epoch、LoRA 的 r 与 alpha、target_modules)→ 训练监控(loss 曲线、显存、梯度范数)→ 评测(自动指标 + 人工抽检 + 与基线对比)→ 导出与部署(合并权重或保留 adapter、量化、推理服务)。缺任何一环,被追问一句就会露。

「Codex 只是框架」这句话背后的区分是「工具 / 框架 / 模型」三层。 模型是权重与推理能力(GPT、Claude、Qwen、DeepSeek);框架或工具是调用模型、编排工具循环的壳(Codex CLI、Cursor、LangChain);产品是包装好的应用。面试官想确认的是你知道自己在用哪一层、能不能换掉其中一层。答法可以是「模型选 X,因为中文与成本;编排用 Y,因为要工具调用与流式;如果换成 Z 模型,需要改的是提示与工具描述,架构不用动」。

PEFT(参数高效微调)是一族方法的统称,LoRA 只是其中一种。 共同目标:冻结大部分预训练权重,只训练少量新增或选定的参数,从而降低显存与存储成本、避免灾难性遗忘、并支持一个底座挂多个任务适配器。常见方法:LoRA(低秩分解 A·B 注入到注意力/FFN 的线性层)、QLoRA(底座 4bit 量化 + LoRA)、Adapter(插入小模块)、Prefix/Prompt Tuning(训练虚拟 token)、IA3(缩放向量)。要能说清 LoRA 的关键超参:r(秩,越大容量越强也越易过拟合)、alpha(缩放,常用 2r)、target_modules(通常 q/k/v/o 与 gate/up/down)、dropout。

量化是用更低精度表示权重与激活,换取显存、带宽和速度。 常见精度:FP32 → FP16/BF16 → INT8 → INT4。收益:4bit 相比 FP16 显存约降 4 倍,显存带宽压力同步下降,推理吞吐提升;代价:精度损失(尤其对数值敏感的任务)、部分算子需要专门 kernel、校准数据质量影响效果。主流方案:训练后量化(GPTQ、AWQ)与训练中量化(QLoRA 的 NF4)、以及面向 CPU/边缘的 llama.cpp GGUF。回答时补一句「量化主要解决推理侧的成本,训练侧省显存要靠 LoRA/QLoRA 这类方法」,把两个概念串起来。

这篇面经的教训不是「题太难」,而是「项目要能自证」。 作者的自我评价是基础差所以挂了,但从题目看,面试官问的都是「你做过这件事的必然延伸」——用没用显卡、为什么选这个模型、怎么训的、不达预期怎么改。做过的人张口就有数字和取舍,没做过的人只能背概念。补法很具体:把项目的每一步写成「我做了什么、为什么这么做、结果是多少、如果重来改哪里」,遇到答不上的就回去补实验,而不是补名词。