字节搜广推引擎架构一面备考:JSON 约束、容量设计与 HNSW
- 轮次
- 一面
- 时间
- 2026-11
- 来源
- 牛客网
《面试题目》
- Agent 必须返回 JSON 时,怎样约束并验证输出?
- 面对很大的用户规模,怎样开始容量设计?
- HNSW 的分层近邻图怎样支持向量检索?
- 用户订单日榜的评分公式会变化,怎样设计 Top-K?
《参考解析》
结构化输出的三层约束:第一层是解码约束,用接口原生支持的 response_format / JSON Schema 或约束解码,让模型在采样阶段就只能生成合法 token,这比事后解析可靠得多;第二层是服务端校验,按字段、类型、必填项、枚举与数值范围逐项检查,任何一项不满足就当失败处理;第三层是业务校验,例如引用的订单号必须真实存在、金额必须与库内一致——格式正确不代表内容可信,这是两层完全不同的失败。失败的处理要定死:限制重试次数(通常一到两次,并把校验错误回灌给模型)、重试仍失败就走兜底或转人工,校验通过之前不允许触发任何写操作。还要注意流式场景下不能边收边执行,必须等完整对象解析并通过校验。
容量设计的入手顺序:先问清业务口径——日活、活跃时段分布、峰值系数、每个请求的模型调用次数与平均 token 数、检索与数据库访问次数、可接受的 P99 延迟,这些数字决定了后面所有估算。然后把总 QPS 拆到每一层:入口 QPS、模型侧的并发与 token 吞吐(受 GPU 显存与 batch 约束)、检索侧的 QPS 与召回规模、存储侧的读写 QPS。再用排队论做粗算、用压测校正——用户总数不能直接换算成机器数,一条请求在链路上放大几倍才是关键。最后才是工程手段:入口限流、有界队列加背压、worker 数量按 CPU 与下游容量定、超时与降级、以及冷启动时的容量预留。回答时把「估算—验证—保护」三段讲清楚,比报一个机器数量更有说服力。
HNSW 的分层结构:它是一张多层近邻图,上层稀疏、下层稠密。检索从最高层的入口点开始,在每层做贪心游走逼近目标区域,逐层下降,到最底层再用较大的候选预算做局部搜索,返回的是近似近邻,不是精确结果。影响效果与成本的参数有三个:M 控制每个节点的连边数,决定图的连通性与内存;efConstruction 控制建图时候选队列长度,影响构建时间与图质量;efSearch 控制查询时的候选预算,是召回与延迟的直接旋钮。工程上要能报出内存量级——向量本身加上 M 条双向边的 id 存储,再乘节点数——以及构建成本随数据量增长的关系。评估方式是用同一批查询与精确检索(或暴力扫描)对照,画召回率与延迟的曲线,而不是只看单点指标;增量更新与删除要靠标记删除加重建或定期压实。
评分公式会变的 Top-K:先把口径钉死——统计哪个时区的一天、截止到几点、用哪一版评分公式,这三点不明确,榜单就无法复现。计算上按用户聚合当天的有效订单数与金额,代入公式算分,只取前 K 名时用小顶堆维护候选,复杂度 O(n log K),比全量排序省内存;数据量分布到多台机器时,各分片先取本地 Top-K,再归并。真正容易出错的是边界:并列分数要有稳定的次级排序键(例如订单数、用户 id),否则每次刷新榜单顺序都会抖;退款要把订单从当日统计里扣掉,重复订单按幂等键去重,迟到数据要靠水位线(watermark)划定「这一天是否已结算」,结算后到的数据要么触发增量修正、要么走次日重算。另外评分公式换版本时要保留版本号与生效时间,历史榜单按当时版本解释,否则同一份数据会算出两个答案。