面灵AI→

曦望 一面:K8s informer 的 delta 更新与 PD 分离

轮次
一面
时间
2026-11
来源
牛客网

《面试题目》

  1. 离职原因。
  2. 做过哪些项目,聊一些业务上的问题。
  3. K8s informer 机制,delta 增量更新:如果创建的时候立马删除,是否会收到两个事件?
  4. K8s 创建一个 Deployment 的工作机制是什么?
  5. PD 分离的好处是什么?
  6. 多机实例怎么部署的,用了 LWS 没有?
  7. RDMA 网卡和显卡是怎么用的?CDI 显卡挂载是否了解?
  8. 讲一下 MoE 模型。
  9. LeetCode 中等难度算法题。

《参考解析》

informer 与 delta 更新:informer 由 Reflector、DeltaFIFO、Indexer、Controller 组成。Reflector 通过 List/Watch 从 apiserver 拉取资源,把变化写成 Delta(Added、Updated、Deleted、Sync)放入 DeltaFIFO;Controller 从队列取 delta 更新本地 Indexer 并调用事件处理器。如果对象创建后立刻被删除,watch 流里会依次收到 ADDED 与 DELETED 两个事件,但两者可能被合并:DeltaFIFO 按对象 key 聚合,同一 key 的多个 delta 会排队,处理时按顺序回放,所以最终你会在处理器里看到 Added 与 Deleted 各一次(或在 resync 后只看到最终状态)。关键点是 informer 保证「最终一致」而不是「每个中间状态都完整送达」,如果业务需要严格的事件序列,要用 resourceVersion 与自己的事件表,而不能只依赖 informer 的回调。

创建 Deployment 的机制:用户提交 Deployment → apiserver 校验并写入 etcd → Deployment controller 监听到新对象,创建对应的 ReplicaSet(带 pod-template-hash)→ ReplicaSet controller 创建 Pod 对象 → scheduler 监听到未调度的 Pod,按资源、亲和性、污点等打分选节点并写回绑定 → 目标节点 kubelet 监听到绑定,调用 CRI 拉镜像、创建容器,调用 CNI 配网络、CSI 挂存储 → 容器启动后探针通过,EndpointSlice 更新,Service 转发流量。滚动更新时 Deployment controller 按 maxSurge 与 maxUnavailable 调整新旧 ReplicaSet 的副本数。

PD 分离:PD 指 Prefill 与 Decode 分离,把大模型推理的两个阶段放到不同实例上。Prefill 阶段计算密集、要处理整段输入、显存占用随序列长度增长;Decode 阶段逐 token 生成、访存密集、对延迟敏感。分离后可以按各自特性独立扩缩容与选型(Prefill 用高算力卡、Decode 用大显存或高带宽卡),避免两者互相干扰(Prefill 的长请求会阻塞 Decode 的实时性),也便于做 KV Cache 的传输与复用。代价是要在实例间传 KV Cache,对网络带宽要求高,所以常配 RDMA。

多机部署与 LWS:大模型多机推理需要 Pod 之间有稳定的网络标识与启动顺序,LeaderWorkerSet(LWS)就是为此设计的 CRD:一个 group 里有一个 leader 与若干 worker,Pod 名带序号、通过 headless service 互相解析,支持 group 级别的滚动更新与重启。相比 StatefulSet,LWS 更贴合「一组 Pod 协同完成一次推理」的模型。

RDMA 与 CDI:RDMA 让网卡直接读写远端内存,绕过内核协议栈,延迟低、CPU 占用小,常见实现是 InfiniBand 或 RoCE。K8s 里通过 device plugin 把 RDMA 设备暴露给 Pod,配合 multus 挂第二张网卡。CDI(Container Device Interface)是设备注入的标准,把厂商的 device plugin 与运行时解耦:厂商提供 CDI spec 描述设备节点、环境变量、挂载,容器运行时按 spec 注入,NVIDIA 的 GPU Operator 就用它来挂载显卡与驱动库。

MoE:混合专家模型把 FFN 层拆成多个专家,每个 token 经门控网络选择 Top-k 个专家计算,输出按门控权重加权求和。好处是参数量大但每 token 激活的参数少,算力成本接近小模型而容量接近大模型;难点是负载不均衡(热门专家过载)、通信开销(专家分布在不同设备要 all-to-all)、训练不稳定(需要负载均衡损失与路由抖动)。推理侧要解决专家并行与容量因子设置。

算法题准备:一面只考一道中等题,重点是一次写对并说清复杂度。练习时按题型(数组、链表、树、图、动态规划、堆)各准备几道模板题,写之前先口述思路与边界。