9.22 小红书 大模型算法三轮:图文匹配、生成式排序与推荐链路排障
- 轮次
- 笔试、一面、二面、HR 面
- 结果
- 已 OC
- 时间
- 2026-10
- 来源
- 牛客网
《面试题目》
- 给一批笔记互动数据,如何按加权热度倒排、去重后输出前 N 篇?
- 图文匹配:给你一条评论,怎么判断它属于哪篇笔记?说说特征思路。
- 生成式排序要求按时间衰减,打分函数怎么设计?
- 多模态特征怎么融合,早期融合还是晚期融合?
- 机考前你会先圈出题干里的哪些边界与约束?
- 多模态模型遇到图文不一致的样本,训练和上线分别怎么处理?
- 做内容理解时类别太多、标注不够,怎么办?
- 长文本分类,截断和摘要选哪个,为什么?
- 讲讲 LoRA,和全量微调怎么选?
- 显存炸了有哪几招救?
- 你训过最大的模型多大,分布式怎么搭的?
- 过拟合怎么发现,又怎么治?
- 评测指标除了准确率还看什么?
- 模型上线后被人反馈「答非所问」,怎么查?
- 数据漂移怎么监测?
- 推荐模型上线后核心指标掉了,从哪几个环节定位?
- 召回和排序分别怎么优化,先动哪头?
- 冷启动有什么办法,新用户和新内容都算。
- AB 实验怎么设计,指标冲突听谁的?
- 特征穿越是什么,怎么防?
- 离线训练和在线服务的特征不一致,怎么对齐?
- 生成内容的质量怎么评估,人工和自动两条线怎么搭?
- 多目标排序怎么融合,权重谁定?
- 你做过最失败的一次模型迭代是什么?
- 为什么想来我们这,对业务了解多少?
- 你期望的团队氛围是什么样的?
- 反问面试官:这个组的模型迭代节奏多快,有没有评测基建?
- 反问面试官:算法和工程在这边怎么协作?
- 同时接三个需求,你先做什么?
- 【手撕】手写链表两两交换节点,别把指针弄断,并说清空链表、单节点这两个边界。
《参考解析》
图文匹配:先防泄漏,再决定在哪一层融合:父笔记 ID 如果就是待预测的标签,把它和它的派生物(笔记侧互动、评论发布后的点赞收藏)当特征就是泄漏,离线刷得高、线上没用。特征分三层:文本层编码评论、标题、正文、话题与 OCR,抽实体、商品、地点、数量和否定;视觉层取整图与局部区域表征,处理「这双鞋」「左边那个」这类指代;上下文层只用发布时刻拿得到的信号。系统是双塔召回加交叉精排,关键词与向量先压到几十条,再让多模态交叉编码器同时读评论与候选笔记;CLIP 的相似度只说明图文像不像,不是归属概率,必须用任务数据适配。负样本要掺同商品、同主题、同时段的困难负例;「好看」「求链接」这种评论多篇都合理,应允许返回候选集合或拒答。评测看 Recall@K、MRR 和拒答后覆盖率,按短评论、跨模态指代、长尾商品分桶,划分按笔记与时间切,别让同一篇笔记的近重复评论横跨训练和测试。
多模态融合放在哪一层,取决于交互强度、缺失率和服务预算。早期联合 token 建模交互最强,但对齐难、算力贵;中间融合各自编码后用拼接、门控或交叉注意力交互,是精排最常用的折中;晚期融合独立出分再校准合并,好缓存好降级,却表达不了「文字说红色、图里是蓝色」的局部矛盾。实际系统分层用:召回上独立编码器加向量索引,精排才上强交互模型。缺失模态要有 mask 和 modality dropout,门控带质量信号,否则强势模态长期压住另一路。图文不一致不是脏数据:检索任务里错配是负例,审核任务里冲突是要识别的正例,一刀切删掉等于删目标。训练侧溯源抽审、构造只改一个关键属性的困难负样本(同款不同色),把对齐做到实体和属性级,并保留「不一致」标签与矛盾证据,别让模型学成「文字永远比图可信」;上线侧分别抽图像事实、文本主张和可验证关系,输出一致、冲突、信息不足三态,关键事实用检测加规则复核,低置信度转人工而不是让模型编解释抹平冲突。
时间衰减作用在价值折算上,不作用在概率上:自回归生成物品 ID 时直接拿序列 log-prob 当分数有问题——ID 编码长度不同,log-prob 是各 token 条件概率之和,长编码天然吃亏,长度归一化只是启发式。更稳的是把语义相关性、行为价值、时效性分开建模,只让时间进最后一步:score = 校准后的质量 × exp(-Δt/τ)。半衰期按内容类型分,新闻热点一天都嫌长,教程攻略测评几个月仍有用;未来时间戳要截断而不是奖励;模型已把时间当特征时再叠强衰减是重复惩罚,得做消融。衰减表达的是偏好新鲜,不等于更相关,要用固定候选集上的消融加线上实验证明它带来用户价值。上线别只盯新内容曝光占比,满意度、长尾覆盖和延迟一起看。
LoRA 省的是可训练状态,不是整机显存:冻结基座 W、只训低秩增量 BA,参数量从 d·k 降到 r(d+k)。初始化必须 A 随机、B 为零,初始增量才为零、起点等于基座输出;两个都置零梯度恒为零,训不动。多任务适配、低成本试错、按租户切适配器时 LoRA 划算;把 rank 和目标模块(q/k/v/o 与 MLP)都加大仍欠拟合,再考虑部分解冻或全量,而全量不保证更好。常见误解是「用了 LoRA 不 OOM」:基座权重、激活、长序列注意力一样在,冻结层前向照跑,把梯度传回更早的可训练模块时通常还要走冻结层反向。OOM 先定阶段——加载权重、首次前向、反向、优化器 step,还是生成时 KV Cache 涨;训练峰值约等于权重 + 梯度 + 优化器状态 + 激活 + 临时 buffer,混合精度下模型状态约 16 字节/参数(BF16 权重 2、梯度 2、FP32 主权重 4、Adam 两状态 8)。激活用更小微批次、梯度检查点、长度分桶、FlashAttention;状态用 FSDP/ZeRO、QLoRA、优化器状态量化、CPU offload;KV Cache 用 token 预算准入、限制输出长度、量化。边界:梯度累积不减固定状态,FSDP 不自动均分激活峰值,FlashAttention 省中间矩阵而计算量仍二次增长,empty_cache() 只回收未被引用的缓存。KV Cache 可粗算 2 × 层数 × KV 头数 × 头维度 × 字节数 × 总 token,32 层、8 个 KV 头、头维度 128、BF16、8 个请求各 8192 token 就接近 8 GiB,准入要按 token 并给输出留空间。
特征穿越卡两个时间:事件发生与特征可读:预测点击却用点击后的停留时长、预测曝光价值却用曝光后累计收藏、用今天修正的画像回填昨天的样本,都是穿越,统一表现是离线漂亮、线上复现不了。行为 10:00 发生、10:10 才写进在线特征,就不能用来重建 10:05 的请求。工程上靠 point-in-time join、带版本快照或真实请求日志;目标编码、归一化统计量、词表、负采样也要在划分之后才拟合。离线在线不一致还常来自定义不同:按天 vs 滑动 24 小时、缺失填 0 vs -1、tokenizer 版本不同。给每个特征立契约(实体键、dtype、单位、窗口、时区、可用时间、空值规则、枚举版本、过期策略),转换逻辑共享一份实现或从同一份声明生成批流两套;上线抽样记录真实输入,离线按同一请求时刻重算逐字段比,再比模型中间输出与最终分数,剩下的差异查量化、算子和精度。模型、schema、embedding、词表、镜像打成可回滚的版本包,先影子跑。
AB 实验先写死假设,指标冲突靠护栏裁决:可证伪假设、主指标、护栏、最小可检测效应和停止规则都要在分流前定。按稳定用户 ID 分桶并保持组别;推荐场景里供给互相影响,普通用户级分流未必无偏,要考虑集群随机化或 switchback。开跑后查埋点、A/A 和样本比例失衡,按完整业务周期看,别边跑边看 p 值。样本量按绝对提升算:基线 10%、检出 +0.5 个百分点、双侧 0.05、功效 0.8,每组约 5.65 万用户;比率指标用 delta method 或按随机化单元 bootstrap,CUPED 只能用实验前变量降方差。指标冲突由预先定义的主指标与不可交换的护栏处理:安全、严重负反馈、延迟不能被点击上涨抵消;点击涨而收藏、留存跌,拆人群、看成熟窗口、查机制,再由业务、产品、算法共同定权衡并留档。多目标融合先在统一效用口径下做——校准后的概率乘业务价值相加,负反馈算负效用;直接加原始分数会让权重同时承担价值判断和尺度校正,模型一升级就失效。更严的形式是在负反馈率和延迟的边界内最大化长期满意度;列表级还要管多样性、作者曝光、去重,安全底线卡候选资格而不是给一个能被高点击抵消的惩罚项。训练损失权重和线上融合权重是两回事,前者决定共享参数吃哪些梯度,改它还会动校准。
线上指标掉了:先分真假,再按链路分层:先排除埋点缺失、分母改口径、分流失衡、标签未成熟和同期运营或供给变化;触到安全或稳定性红线先回滚缩流量。然后按链路逐层数:流量与画像 → 多路召回 → 过滤去重 → 特征服务 → 粗排精排 → 重排 → 缓存展示 → 反馈回传,每层记数量、延迟、错误率和默认值占比。候选从上千掉到几十,先查召回和过滤;模型输出正常而展示不对,查重排与缓存。用同一批可重放请求,固定候选集比排序器、固定排序器比候选集,把「召回漏」和「排序偏」分开;再按活跃度、入口、主题、新内容、设备、时段分桶排除流量构成变化。「答非所问」同理,先把感受翻成错误类型(意图、指代、检索无证据、上下文截断、工具返回错、生成忽略约束、展示层串了),按 trace 还原输入、候选、分数、版本与工具参数,重点看缓存键有没有带用户权限和上下文版本;再做组件替换,喂进人工确认的正确意图或材料,看问题在哪层消失。修完进回归集,影子加小流量灰度。漂移要分清输入分布、标签比例和 P(y|x) 关系三种:数值特征看 KS 或 Wasserstein,离散看频率差与 JS,高维用固定投影或两样本分类器,阈值结合效应量与误报成本;没有及时标签时分数分布、拒答率只是预警代理;基线要匹配星期、时段和入口,embedding 换版本等于换坐标系。看到漂移不等于要重训。
长文本与标注预算:先看证据在哪,再决定花多少钱:标题加开头够用的场景,截断是便宜且易复现的基线;关键证据可能落在后半段,截断就是系统性盲区。摘要能压信息,但会漏稀有实体、否定词和决定性句子,生成式摘要还可能编事实。可比的基线至少五条:头部截断、首尾拼接、滑窗分类、抽取式证据压缩、长上下文模型;滑窗后用最大值、attention pooling 或层级网络聚合,标签由「出现任一危险句」决定时平均池化会稀释信号。用摘要器时训练、验证、线上必须同版本同口径,不能拿真实类别指导测试集摘要再评分类。类别多而标注少,先治标签体系:单标签还是多标签、类别是否互斥、层级是否合理、标注员能否按一致规则区分相邻类,定义混乱时加样本只放大冲突。建「粗类 → 细类」层级分类,用类别描述做零样本或少样本初始化;LLM 弱标签要有金标集抽审和噪声估计。预算优先给高风险类、长尾类和易混淆区域,主动学习要结合不确定性、代表性、类别覆盖与成本,并留一部分预算做独立随机抽样维持评测集。上线留未知类和拒识出口。
手撕链表:交换的是连接,不是值:用哑节点统一头节点变更,prev 指向下一组待交换节点的前驱。结构是 prev -> first -> second -> rest,先存 rest,再依次改成 prev -> second、second -> first、first -> rest,最后 prev = first。不变量是 prev 之前的二元组都已交换、后缀保持原序;空链表返回空,单节点直接返回,奇数长度最后一个节点不动,O(n) 时间、O(1) 空间。验证时除比值序列,还要确认节点一个不少、没造出新环、连续交换两次能还原——「值看着对、指针已经断了」是最常见的隐藏错误。