10.27 小红书 AI 全栈二面:模型选型、评测与高并发设计
- 轮次
- 二面
- 时间
- 2026-10
- 来源
- 牛客网
《面试题目》
- 请先做一下自我介绍。
- 上一段实习为什么没有转正?是没有转正机会吗?
- 目前还在面试哪些公司?
- 介绍一下实习期间负责的项目。
- 这个项目用户量有多少?
- 这个产品的业务背景是什么?主要解决什么问题?
- 你在项目中具体承担了哪些工作?
- 开发过程中遇到的最大技术挑战是什么?怎么解决的?
- 你们在开发过程中主要使用哪些大模型?
- 模型选型是怎么考虑的?为什么不同复杂度的任务使用不同模型?
- 是否会在规划阶段使用能力较强的模型、执行阶段使用成本较低的模型?为什么?
- 如何评测模型输出的质量和稳定性?
- 除了实习项目,还做过哪些项目?
- 介绍一下这个项目的主要功能和应用场景。
- 项目使用的业务数据来自哪里?真实数据还是模拟数据?
- 系统是否支持完整的用户注册和登录?
- 为什么采用分布式架构?和单体架构相比有什么必要性?
- 前端使用了什么技术框架?
- 核心业务数据是如何存储和组织的?
- 你认为项目中哪些业务场景可能出现高并发问题?如何应对?
- 这个项目开发了多长时间?
《参考解析》
模型分层路由:规划、拆解、复杂推理用强模型,执行、抽取、格式转换、分类用便宜模型,是成本和质量之间最直接的杠杆。落地时把「任务类型 → 模型档位」做成配置而不是写死,按 prompt 难度、输入长度、是否需要工具调用、延迟要求来路由;同时保留升级通道(小模型置信度低或校验失败时回退大模型)。要能说出收益:同样的业务量,token 成本下降多少、P95 延迟下降多少。
模型输出评测:分三层。确定性断言层:格式、字段、长度、是否引用到正确文档、工具参数是否合法;语义层:用 LLM judge 按 rubric 打分,rubric 要写清「什么算好」,并用人工标注校准 judge 与人的一致率;业务层:看最终转化、采纳率、点踩率。离线评测集要覆盖典型、边界、对抗样本,版本化保存;每次换模型、改 prompt、改检索都跑同一套集合并对比,避免「感觉变好了」。
为什么分布式 / 什么时候不需要:分布式解决的是容量与隔离:单机扛不住 QPS、需要水平扩展、需要按业务拆分独立部署与故障隔离、需要多地域容灾。代价是复杂度:服务发现、链路追踪、分布式事务、数据一致性。回答时先给「当前量级和瓶颈」,再说「拆的边界是按业务域还是按读写」,最后说「哪些部分保持单体更好」。
高并发场景与应对:AI 应用的高并发点通常在「模型调用」和「文档检索」:用队列削峰、按用户/租户限流、请求去重与结果缓存(相同 prompt+上下文命中缓存)、流式输出降低等待感、超时与熔断、失败降级到小模型或模板、异步任务化(长任务返回 task_id 轮询)。存储侧热点是会话与消息表:分库分表、冷热分离、读写分离。