面灵AI→

阿里 AI 应用开发实习一面:长期记忆落地、Milvus 索引选型与 Agent 执行框架

轮次
一面
时间
2026-10
来源
牛客网

《面试题目》

  1. 来一段自我介绍。
  2. 挑一个你实习中做过的 AI Agent 项目,重点讲讲长期记忆模块是怎么从需求做到上线的?
  3. Milvus 的索引类型有哪些?分别怎么构建、怎么选?
  4. 如果 Agent loop 里模型连续调用工具、重试和反思,如何避免死循环与状态污染?
  5. 记忆的技术选型为什么选 Milvus + Mem0?对比其他方案呢?
  6. RAG 在线上出现「检索内容正确,但最终回答错误」,你会怎么定位?
  7. 你简历上这第二个项目是网上找的吗?
  8. 多个 Agent 工具的参数、超时、重试和权限都不同,你会怎么设计统一执行框架?

《参考解析》

长期记忆从需求到上线:先把需求翻译成可验证的指标,而不是一上来说用什么库。要回答四件事:记什么(用户偏好、事实性信息、任务上下文还是失败经验)、什么时候写(每轮对话结束、显式触发还是异步抽取)、怎么取(按会话 / 用户 / 场景过滤,向量召回几条)、什么时候忘(TTL、容量上限、冲突时覆盖还是并存)。落地形态一般是「抽取 → 去重合并 → 入库 → 检索 → 注入」五段:抽取用 LLM 从对话里产出结构化 memory 条目并判定 ADD / UPDATE / DELETE / NOOP;去重用向量近邻加上语义判重,避免同一件事存十份互相矛盾的版本;入库带 metadata(用户、时间、来源会话、置信度);检索时先用 metadata 过滤再向量召回,排序融合时效性;注入时要控制条数与 token,并标清来源时间。上线后必须有用量指标:记忆命中率(注入的记忆里有多少被模型真正引用)、错误记忆率、注入带来的延迟增量。

Milvus 索引与取舍:FLAT 不建近似索引,暴力算距离,召回率最高但规模一大延迟就崩,适合小数据集或当评测的 ground truth。IVF 系列先用聚类把向量空间切成若干倒排桶,查询时只扫离 query 最近的几个桶——建索引时定 nlist,查询时调 nprobe,nprobe 越大召回越高、延迟也越高。IVF_SQ8 在 IVF 基础上做标量量化,把 float 压成 8 位整数,省内存、损失一点精度;IVF_PQ 做乘积量化,把高维向量拆成子空间分别量化,在亿级规模下压缩比很可观,但召回损失要靠调 m / nbits 补。HNSW 是分层近邻图,高层粗定位、底层细搜,M 决定每个节点的连边数、efConstruction 决定建图质量与构建成本、查询期 ef 控制搜索宽度,特点是高召回低延迟但索引常驻内存、占用大。选型看的是「规模 × 内存预算 × P99 延迟 × 召回要求」四者的交集:几十万到千万级、延迟敏感就用 HNSW;内存吃紧的超大规模走 IVF_PQ 或 DiskANN;最终都要靠离线 recall@K 与线上 P99 联合调参,不能只看某个 benchmark 的单点数字。

Agent loop 的死循环与状态污染:不能写成 while True: llm -> tool。三道闸:一是每轮设最大 step 数,只作兜底;二是记录最近若干次动作的 fingerprint(工具名 + 规范化参数),连续相同且输出不变即判循环,换参数但结果一致同样算;三是给有副作用的工具单独设预算,读写要区别对待。状态污染是另一半问题:工具的原始返回(数据库异常栈、整页 HTML、超长日志)不能不加处理地塞回上下文,一是吃 token,二是里面可能藏着注入。executor 应该把结果标准化成 status / data / error_code / message 并截断长度。状态本身要显式维护成结构(用户目标、当前计划、已完成步骤、工具结果、最终答案),而不是让「全部历史消息」当唯一状态——否则一次工具失败之后,模型只能从几十轮自然语言里重新猜自己执行到哪了。

为什么 Milvus + Mem0:两者不在一个层面。Milvus 是底层向量存储与 ANN 检索,负责 embedding 的存、索引和相似度搜索;Mem0 是记忆编排层,负责判断什么值得记、已有记忆该 ADD / UPDATE / DELETE 还是不动。如果只用 Milvus 从零做长期记忆,除了检索还得自己写抽取、去重、冲突消解、metadata 过滤和生命周期管理,Mem0 省的是这一层工程量。对比方案要按场景说:pgvector 的吸引力在于业务数据和向量放同一个 PostgreSQL,事务一致、过滤条件写起来自然,数据量不大时基础设施最省;Redis 向量适合已经有 Redis、对延迟极敏感且规模可控的场景;Elasticsearch / OpenSearch 的强项是 BM25 与向量混检、过滤能力成熟,做混合召回顺手。真正该拿来决策的是数据规模、P99 延迟、过滤复杂度、更新频率和运维成本,只根据 benchmark 排名选库是最常见的错。

「检索对但回答错」的分段定位:这句话本身就要先拆——「检索正确」通常指召回的 chunk 里有答案,但进入模型上下文的未必是同一批内容。按链路逐段验证:先看最终真正发给模型的 prompt 原文,常见问题是 rerank 之后排名变化、上下文按 token 截断把关键段落裁掉、或者多个 chunk 内容冲突而模型选了旧版本;再看 prompt 有没有硬约束「只依据给定证据回答」,如果一边给 RAG 上下文一边又让它「结合自身知识」,模型绕过证据是必然的;最后才怀疑模型能力。验证手段是固定上下文重生成:把正确的证据固定下来、temperature 调到 0 重跑,仍稳定答错说明是理解或 prompt 设计问题,答案抖动则更像生成稳定性问题。生产上要留完整 tracing(query → rewrite → retrieval → rerank → context → prompt → completion),badcase 才能定位到具体 stage 而不是靠猜。

「第二个项目是网上找的吗」:这类问题是压力测试,考的是你对项目细节的真实掌握度,回答要立刻给出只有真正做过才知道的东西——当时的技术选型纠结在哪两个方案之间、压测跑出的具体数字、上线后遇到的第一个线上问题及其排查过程、哪部分后来被推翻重做以及为什么。含糊复述架构图只会加深怀疑。

多工具统一执行框架:分两层。schema 层描述工具名、能力、入参与返回,用 JSON Schema 或 Pydantic 从类型定义自动生成模型看到的 tool definition,业务代码只实现统一的 execute(context, args)。execution 层是所有调用的必经之路:参数校验 → 权限检查 → 超时控制 → 熔断与重试 → 日志与 trace → 结果格式化。重试要据此分档:查询类天然幂等,可以安全重试;付款、发消息、建工单这类有副作用的调用不能简单 retry,一次网络超时就会变成执行两次,必须靠 idempotency key 或业务侧的 exactly-once 语义兜住。返回结构统一成 {success, data, error_code, message},模型不用去学几十种错误协议。有高风险工具时再加一层 policy:模型「决定调用」与系统「允许执行」是两件事,中间那道闸才是权限真正生效的地方。