面灵AI→

数盾股份 AI 应用开发实习一面:虚拟内存、35B 模型部署与 Agent 工程

轮次
一面
时间
2026-10
来源
牛客网

《面试题目》

  1. 学业成绩怎么样?
  2. 虚拟内存的原理是什么?
  3. 线程和进程有什么区别?
  4. 有部署过模型吗?跑模型时注意过进程内存的占用吗?
  5. 模型的轻量版本和原版本有什么区别,有什么好处?
  6. 如果要你部署一个 35B 的模型,你会选择什么配置?
  7. 模型和 CPU 有关系吗?
  8. 运行一个模型时,内存、CPU、运行内存之间的关系与流程是什么?
  9. CPU 和内存之间能相互传递数据吗?
  10. 假如一个模型的上下文过多,会做上下文压缩,这样做的目的是什么?
  11. 模型有个缓存机制,你了解吗?
  12. 模型运行时,除了模型本身还有什么会占用大量内存?
  13. 做 Agent 调用的时候,你的接口存在项目里硬编码吗?
  14. 开发的时候,你会怎么借助 Agent 帮助自己学习?
  15. 上一家公司的薪资待遇如何?
  16. 竞赛成绩相关的追问。

《参考解析》

虚拟内存:一句话是「给每个进程一个连续、私有的地址空间,真实物理内存由页表映射」。要讲清四件事:一是隔离,进程只能访问自己的虚拟地址,越界直接段错误,不会踩到别人的内存;二是按需分页,只有真正访问到的页才从磁盘换入,缺页中断(page fault)由内核装载;三是换出,内存紧张时把不常用的页写回 swap,页表项标记为不在内存;四是共享与映射,动态库、mmap 文件可以多个进程映射同一份物理页。追问常落在「缺页中断的处理流程」和「虚拟地址如何翻译成物理地址(多级页表 + TLB)」,答的时候带上 TLB 命中与页表遍历的代价。

进程与线程:进程是资源分配单位(独立地址空间、文件描述符、信号处理),线程是 CPU 调度单位(共享地址空间与大部分资源,独立栈和寄存器)。代价上,进程切换要换页表、刷 TLB,线程切换只换栈和寄存器,所以线程更轻;但线程共享内存意味着要自己处理竞态,一个线程崩溃可能带走整个进程。可以补一句协程:用户态调度、切换不进内核,适合 IO 密集。

35B 模型要什么配置:先算显存而不是背答案。FP16 下 35B 约 70GB 权重,INT8 约 35GB,INT4 约 17.5GB;再加上 KV Cache——它与层数、hidden size、序列长度、并发数成正比,长上下文时往往是第二个大头。所以:单卡 80G(A100/H100)可以 FP16 勉强跑单路;两张 48G 用张量并行更稳;只有消费级卡就要走 INT4 量化 + vLLM/SGLang 的 PagedAttention 做显存复用。回答时把「权重 + KV Cache + 激活 + 框架开销」四块分开算,再给「量化、张量并行、批处理调度」三条降配路径,比直接报一个卡型号有说服力。

上下文压缩与缓存:压缩的目的有三个——控制成本(输入 token 直接计费)、控制延迟(prefill 时间随长度增长)、保住有效信息(把早期对话摘要化,留出窗口给当前任务)。常见做法是滑动窗口 + 摘要、按重要性裁剪工具返回、把长文档改成分段检索。缓存机制主要两条线:一是推理侧的 KV Cache(同一前缀复用已算好的 K/V,PagedAttention 把 cache 按块管理,前缀缓存可跨请求复用),二是应用侧的提示词缓存 / 结果缓存(相同 system prompt 或相同检索结果不重复计算)。这两者要分清,问「模型有个缓存机制」通常指前者。

除模型本身还有什么吃内存:KV Cache(随并发与长度线性涨)、tokenizer 与词表、CUDA context 与框架自身的显存池、批处理时多条请求的中间激活、图片/音频等多模态输入的张量、日志与采样缓冲;CPU 内存侧还有数据加载、预处理和通信缓冲区(多卡时 NCCL buffer 会占掉可观的一块)。这题答得越具体越显得真跑过。

Agent 接口硬编码:正确答法是「不硬编码在业务代码里」,而是走配置:模型名、baseURL、超时、重试、温度这些放配置或环境变量,工具定义用 schema 描述后由框架注册,密钥走 secret 管理。硬编码的问题是可切换性差(换模型要改代码)、多环境不一致、密钥泄露风险。

用 AI 辅助学习:给一条闭环——先自己写出问题和预期,让 AI 讲思路而不是直接给答案;拿它的结论去查文档或跑实验验证;把踩到的边界条件补回自己的笔记;最后让它出题自测。强调「验证」这一步,面试官问这题就是在看会不会盲信模型输出。

复盘:这场面试的重心不在八股背诵,而在「你有没有真的把模型跑起来过」。操作系统部分答不上来是硬伤,虚拟内存、进程线程属于必背;模型部署部分则要能把显存账算清楚。