面灵AI→

10.27 小红书 AI 全栈二面:模型选型、评测与高并发设计

轮次
二面
时间
2026-10
来源
牛客网

《面试题目》

  1. 请先做一下自我介绍。
  2. 上一段实习为什么没有转正?是没有转正机会吗?
  3. 目前还在面试哪些公司?
  4. 介绍一下实习期间负责的项目。
  5. 这个项目用户量有多少?
  6. 这个产品的业务背景是什么?主要解决什么问题?
  7. 你在项目中具体承担了哪些工作?
  8. 开发过程中遇到的最大技术挑战是什么?怎么解决的?
  9. 你们在开发过程中主要使用哪些大模型?
  10. 模型选型是怎么考虑的?为什么不同复杂度的任务使用不同模型?
  11. 是否会在规划阶段使用能力较强的模型、执行阶段使用成本较低的模型?为什么?
  12. 如何评测模型输出的质量和稳定性?
  13. 除了实习项目,还做过哪些项目?
  14. 介绍一下这个项目的主要功能和应用场景。
  15. 项目使用的业务数据来自哪里?真实数据还是模拟数据?
  16. 系统是否支持完整的用户注册和登录?
  17. 为什么采用分布式架构?和单体架构相比有什么必要性?
  18. 前端使用了什么技术框架?
  19. 核心业务数据是如何存储和组织的?
  20. 你认为项目中哪些业务场景可能出现高并发问题?如何应对?
  21. 这个项目开发了多长时间?

《参考解析》

模型分层路由:规划、拆解、复杂推理用强模型,执行、抽取、格式转换、分类用便宜模型,是成本和质量之间最直接的杠杆。落地时把「任务类型 → 模型档位」做成配置而不是写死,按 prompt 难度、输入长度、是否需要工具调用、延迟要求来路由;同时保留升级通道(小模型置信度低或校验失败时回退大模型)。要能说出收益:同样的业务量,token 成本下降多少、P95 延迟下降多少。

模型输出评测:分三层。确定性断言层:格式、字段、长度、是否引用到正确文档、工具参数是否合法;语义层:用 LLM judge 按 rubric 打分,rubric 要写清「什么算好」,并用人工标注校准 judge 与人的一致率;业务层:看最终转化、采纳率、点踩率。离线评测集要覆盖典型、边界、对抗样本,版本化保存;每次换模型、改 prompt、改检索都跑同一套集合并对比,避免「感觉变好了」。

为什么分布式 / 什么时候不需要:分布式解决的是容量与隔离:单机扛不住 QPS、需要水平扩展、需要按业务拆分独立部署与故障隔离、需要多地域容灾。代价是复杂度:服务发现、链路追踪、分布式事务、数据一致性。回答时先给「当前量级和瓶颈」,再说「拆的边界是按业务域还是按读写」,最后说「哪些部分保持单体更好」。

高并发场景与应对:AI 应用的高并发点通常在「模型调用」和「文档检索」:用队列削峰、按用户/租户限流、请求去重与结果缓存(相同 prompt+上下文命中缓存)、流式输出降低等待感、超时与熔断、失败降级到小模型或模板、异步任务化(长任务返回 task_id 轮询)。存储侧热点是会话与消息表:分库分表、冷热分离、读写分离。