面灵AI→

宁波欧达光电信息管培生面经:AI 降本、冷热分层与状态机设计

时间
2026-10
来源
牛客网

《面试题目》

项目架构相关(基于 AI 面试系统)

  1. 怎么解决 AI 接口调用成本高的问题?具体怎么实现?
  2. Redis 分布式锁在这个场景里怎么用?怎么保证相同语义请求只执行一次?
  3. 为什么选 Redis 存运行态数据、MongoDB 存冷快照?
  4. 懒加载恢复上下文具体怎么做?冷热数据分层策略是怎么设计的?
  5. 固定分块和语义分块你怎么选?为什么?
  6. 混合检索怎么实现?多路召回后怎么做重排?
  7. 多线程同时写 MongoDB 怎么防止冲突?
  8. MQ 异步消费怎么保证幂等?异常情况下答题轮次怎么恢复?

技术原理考察

  1. Redis 和 MongoDB 有什么区别?
  2. MongoDB 是不是关系型数据库?它和 Redis 在存储介质、查询能力上的本质区别是什么?
  3. 数据库层面怎么实现负载均衡?
  4. 应用层怎么做流量分发?Nacos 和 Spring Cloud LoadBalancer 怎么配合?
  5. Nginx 的健康检查和节点剔除你了解吗?

系统稳定性与容错

  1. WebSocket 连接中断会导致什么问题?怎么用状态机防止状态跳跃?
  2. 流程推进的限制(比如必须先答题才能评分)怎么落地?
  3. MQ 消费失败了怎么办?重试机制怎么设计?
  4. 连续失败的情况下应该怎么做?什么时候该停止重试转人工?
  5. 怎么做到不修改主链路代码就能替换底层 Agent?
  6. 枚举类和配置类在这个场景里怎么用?

《参考解析》

AI 调用降本:先量化再优化——按任务统计调用次数、token 用量、渠道单价,找出大头。手段分四类:① 减少调用:请求去重(SingleFlight)、结果缓存、规则能解决的不用模型、批量合并;② 降低单次成本:按任务选小模型、限制最大输出、压缩提示词与上下文、用前缀缓存;③ 提升成功率:结构化输出、重试与降级,减少「失败后重复调用」;④ 运营层:配额、限流、按用户分层。每个手段都要有指标验证,不能只说「加了缓存」。

Redis 锁与语义去重:SET key value NX PX ttl 抢锁,value 用唯一请求 ID,释放时用 Lua 比对 value 再删,避免误删别人的锁。语义去重不是「同一个请求 ID」,而是「同一份输入」:把模型、提示词版本、用户输入、检索结果等归一化后做哈希,作为去重键;抢到锁的请求执行并把结果写入 result:hash,没抢到的轮询或订阅结果。要处理锁过期与执行超时,结果 key 设 TTL;跨用户复用要确认输入不含私有数据。

Redis 运行态 + MongoDB 冷快照:运行态是高频读写、可丢可重建的(当前题目、临时状态、最近消息),放 Redis 延迟低、能设 TTL;冷快照是低频写、需要长期保留和恢复的(完整会话、评分记录),放 MongoDB 文档模型合适、按会话查询方便。分层策略是「热数据最近 N 分钟/N 条留 Redis,超过阈值或会话结束时落 MongoDB」,读的时候先 Redis,未命中再按 sessionId 从 MongoDB 懒加载,加载后回填 Redis。

懒加载恢复:会话恢复时先拿「元数据 + 最后确认序号」,只加载最近若干条消息进上下文;更早的消息不一次性拉全,而是按需检索(用户追问某题时再查)。冷热分层按「访问频率 + 时间」:活跃会话全量在 Redis,休眠会话只留索引,过期后归档到对象存储。恢复要带版本号,防止用旧快照覆盖新状态。

固定分块与语义分块:固定分块简单、可预测、边界稳定,适合结构规整的文档(手册、条款);缺点是会把一句话或一个论点切断。语义分块按段落、标题、句子边界切,检索时语义更完整,但实现复杂、块大小不均、可能切得过碎。实践上默认按结构(标题、段落)切,再对超长段落做滑动窗口 + 重叠;用评测集(召回率、答案命中率)决定块大小,不要凭感觉。

混合检索与重排:向量检索负责语义相似,关键词检索(BM25)负责精确匹配(型号、专有名词),两路召回后合并去重,再重排。重排可以用 cross-encoder 模型对「query + 候选」逐对打分,取 top-k;也可以用 RRF(倒数排名融合)做无模型的融合。要加元数据过滤(岗位、公司、时间)先缩小范围,避免向量空间里的噪声。

并发写 MongoDB 防冲突:用乐观锁——文档带 version,更新时 updateOne({_id, version}, {$set: {...}, $inc: {version: 1}}),匹配不到就重试或放弃;对同一会话的写用「单写者」模型(按 sessionId 路由到同一个消费者/线程),从源头避免并发;必要时用分布式锁,但锁的粒度要细、要有超时。

MQ 幂等与轮次恢复:消费幂等靠「业务唯一键 + 去重表/Redis SETNX」:消息带 messageId 与业务键(sessionId + round + action),处理前先抢占,处理完记录结果;重复消息直接返回已有结果。答题轮次恢复靠「状态机 + 事件溯源」:每次状态变更写一条事件(含轮次、版本),异常后按事件重放到最后一致的状态;消费失败进入重试队列,超过次数进死信队列并告警。

Redis 与 MongoDB:Redis 是内存键值库,主打低延迟、丰富数据结构、TTL、原子操作,适合缓存、锁、计数、队列;MongoDB 是文档数据库,数据落盘、支持二级索引、聚合查询、副本集与分片,适合持久化半结构化数据。MongoDB 不是关系型数据库(虽然支持多文档事务),它没有固定表结构与 join 优先的查询模型。

存储介质与查询能力的本质区别:Redis 以内存为主(可持久化但本质是内存数据库),查询是「按 key 取结构」,复杂查询要在应用层做;MongoDB 以磁盘为主、内存做缓存,支持按字段索引、范围查询、聚合管道,查询能力强得多。选型看「要的是速度还是查询与持久化」。

数据库负载均衡:常见是主从复制 + 读写分离(写主库、读从库),配合代理层(ProxySQL、MyCat、ShardingSphere)做路由与负载均衡;多主或分片按分片键路由;连接池层做连接复用与故障转移。要处理主从延迟(强一致读走主库)和故障切换。

应用层流量分发:Nacos 做注册中心,服务实例注册后,客户端从 Nacos 拉取实例列表,Spring Cloud LoadBalancer 按策略(轮询、随机、权重、同机房优先)选择实例;配合 OpenFeign 或 RestTemplate 发起调用。Nacos 还负责配置管理与健康检查,实例下线后客户端刷新列表。要提「重试与熔断」:失败换实例重试,连续失败熔断。

Nginx 健康检查与剔除:开源版 Nginx 的被动健康检查是 max_fails + fail_timeout,连续失败达到次数后在时间段内不再转发;主动健康检查需要 nginx-upsync-module 或商业版/OpenResty 的 healthcheck。剔除后要有恢复机制,避免节点刚恢复就被打满。

WebSocket 断连与状态机:断连会导致消息丢失、状态不同步、重复提交、用户看到「卡住」。状态机把会话定义成「初始化 → 进行中 → 暂停/重连 → 评分中 → 完成/失败」等状态,每个事件(用户答题、ASR 结果、评分返回、断线、重连)只在合法状态下才被接受,非法转移直接拒绝并记录。防止状态跳跃的关键是「服务端为准 + 版本号」:客户端带最后看到的版本,服务端发现落后就下发当前状态,而不是让客户端自己猜。

流程限制怎么落地:用状态机 + 守卫条件(guard):评分事件只有在「当前题已提交且转写完成」时才允许;数据库层加约束(唯一键、状态字段),服务层做校验,前端只做提示。不要只靠前端禁用按钮。

MQ 重试与转人工:失败分「可重试」(网络、下游 5xx、锁冲突)与「不可重试」(参数错误、数据不存在)。可重试用延迟队列做指数退避,设置最大次数;超过次数进死信队列,记录原因并告警。转人工的判据是「重试耗尽 + 业务影响大 + 自动修复不可行」,比如评分连续失败、订单状态不一致;转人工要带上下文(消息 ID、会话、错误栈),否则人工也难处理。

Agent 热插拔:面向接口编程——定义 Agent 接口(execute(context)),不同实现(不同模型/不同编排)作为 Bean 注册;用配置(Nacos 配置中心或数据库)决定当前启用哪个实现,运行时按 key 路由。新增实现不改主链路,只加一个类 + 一条配置。要注意切换的灰度与回滚,以及不同实现的上下文契约一致。

枚举与配置类:枚举定义稳定的类型(Agent 类型、状态、错误码),避免魔法字符串;配置类承载可变的参数(启用的 Agent、模型名、超时、开关),从配置中心热更新。两者分工是「枚举管不变的分类,配置管可变的策略」,配合策略模式/工厂根据枚举 + 配置选择实现。