快手二面:向量检索、Agent 上下文组织与 LoRA 原理
- 轮次
- 二面
- 时间
- 2026-11
- 来源
- 牛客网
《面试题目》
- 个人介绍。
- 介绍一个你认为 AI 使用程度比较高、能够体现 AI 应用开发能力的项目。
- 是否做过大模型预训练、后训练或者微调相关工作?
- 使用了什么向量数据库?检索算法如何选择?
- Agent 的上下文如何组织?
- 实习项目和个人项目分别使用了哪些模型?
- 是否接触过大模型训练、推理优化或训推平台相关工作?
- 了解哪些模型微调或后训练方法?
- LoRA 的原理是什么?
- 项目拷打。
- 手撕:买卖股票(DP)。
- 反问。
《参考解析》
-
讲一个 AI 应用项目:按「解决什么问题 → 整体链路 → 你负责的部分 → 效果数据 → 踩过的坑」讲。链路要能说清检索、提示组装、模型调用、工具、评测各环节,效果要有可比的数字(准确率、回答耗时、token 成本),否则听起来像 demo。
-
向量数据库选型:Milvus、Qdrant、pgvector、Elasticsearch 的向量检索、或云厂商托管服务。选型看数据量、是否需要混合检索(关键词 + 向量)、运维成本、是否已在用某个数据库。小规模直接用 pgvector 最省事,上千万向量再考虑专用库。
-
检索算法怎么选:稠密向量适合语义匹配,稀疏检索(BM25)适合关键词精确命中,实际业务几乎都是混合检索加 rerank。索引类型上 HNSW 查询快、内存占用高,IVF 系列省内存但需要训练且召回率依赖参数,Flat 精确但只适合小数据量。要能说出「召回率、延迟、内存」三者的取舍。
-
Agent 上下文组织:稳定的部分(系统提示、工具定义)放前面并保持冻结以命中缓存;会变的状态(任务进度、已获得的信息)追加到历史末尾;工具返回的长内容做摘要或落文件、只留引用;接近窗口上限时先压缩中间轮次,保留最近几轮和关键结论。原则是「模型每一轮都要知道现在在哪、还差什么」。
-
用过哪些模型:如实说,并说明为什么这么选——成本、延迟、上下文长度、工具调用能力、中文效果。可以讲主模型加兜底模型的组合,以及什么情况下切换。
-
后训练方法:SFT 指令微调、RLHF/DPO 偏好对齐、蒸馏、继续预训练。要能说清各自解决什么问题:SFT 学格式和任务,DPO 调偏好,蒸馏把大模型能力压到小模型。
-
LoRA 原理:冻结原权重,在注意力等线性层旁挂两个低秩矩阵 A(d×r)和 B(r×d),只训练这两个小矩阵,前向是
W + BA,r 远小于 d,所以可训练参数降到千分之几,显存和时间大幅下降。推理时可以把 BA 合并回原权重,不增加延迟;QLoRA 再叠加 4bit 量化基座,进一步省显存。 -
训推平台:能说出数据准备、训练调度、分布式并行(数据/张量/流水线)、显存优化(ZeRO、梯度检查点)、推理加速(KV cache、连续批处理、量化)这些环节即可,没做过就说明了解边界。
-
买卖股票:一次遍历维护历史最低价,每天用当天价格减最低价更新最大利润,O(n) 时间 O(1) 空间。若允许多次交易,则累加所有上涨区间。