数盾股份 AI 应用开发实习一面:虚拟内存、35B 模型部署与 Agent 工程
- 轮次
- 一面
- 时间
- 2026-10
- 来源
- 牛客网
《面试题目》
- 学业成绩怎么样?
- 虚拟内存的原理是什么?
- 线程和进程有什么区别?
- 有部署过模型吗?跑模型时注意过进程内存的占用吗?
- 模型的轻量版本和原版本有什么区别,有什么好处?
- 如果要你部署一个 35B 的模型,你会选择什么配置?
- 模型和 CPU 有关系吗?
- 运行一个模型时,内存、CPU、运行内存之间的关系与流程是什么?
- CPU 和内存之间能相互传递数据吗?
- 假如一个模型的上下文过多,会做上下文压缩,这样做的目的是什么?
- 模型有个缓存机制,你了解吗?
- 模型运行时,除了模型本身还有什么会占用大量内存?
- 做 Agent 调用的时候,你的接口存在项目里硬编码吗?
- 开发的时候,你会怎么借助 Agent 帮助自己学习?
- 上一家公司的薪资待遇如何?
- 竞赛成绩相关的追问。
《参考解析》
虚拟内存:一句话是「给每个进程一个连续、私有的地址空间,真实物理内存由页表映射」。要讲清四件事:一是隔离,进程只能访问自己的虚拟地址,越界直接段错误,不会踩到别人的内存;二是按需分页,只有真正访问到的页才从磁盘换入,缺页中断(page fault)由内核装载;三是换出,内存紧张时把不常用的页写回 swap,页表项标记为不在内存;四是共享与映射,动态库、mmap 文件可以多个进程映射同一份物理页。追问常落在「缺页中断的处理流程」和「虚拟地址如何翻译成物理地址(多级页表 + TLB)」,答的时候带上 TLB 命中与页表遍历的代价。
进程与线程:进程是资源分配单位(独立地址空间、文件描述符、信号处理),线程是 CPU 调度单位(共享地址空间与大部分资源,独立栈和寄存器)。代价上,进程切换要换页表、刷 TLB,线程切换只换栈和寄存器,所以线程更轻;但线程共享内存意味着要自己处理竞态,一个线程崩溃可能带走整个进程。可以补一句协程:用户态调度、切换不进内核,适合 IO 密集。
35B 模型要什么配置:先算显存而不是背答案。FP16 下 35B 约 70GB 权重,INT8 约 35GB,INT4 约 17.5GB;再加上 KV Cache——它与层数、hidden size、序列长度、并发数成正比,长上下文时往往是第二个大头。所以:单卡 80G(A100/H100)可以 FP16 勉强跑单路;两张 48G 用张量并行更稳;只有消费级卡就要走 INT4 量化 + vLLM/SGLang 的 PagedAttention 做显存复用。回答时把「权重 + KV Cache + 激活 + 框架开销」四块分开算,再给「量化、张量并行、批处理调度」三条降配路径,比直接报一个卡型号有说服力。
上下文压缩与缓存:压缩的目的有三个——控制成本(输入 token 直接计费)、控制延迟(prefill 时间随长度增长)、保住有效信息(把早期对话摘要化,留出窗口给当前任务)。常见做法是滑动窗口 + 摘要、按重要性裁剪工具返回、把长文档改成分段检索。缓存机制主要两条线:一是推理侧的 KV Cache(同一前缀复用已算好的 K/V,PagedAttention 把 cache 按块管理,前缀缓存可跨请求复用),二是应用侧的提示词缓存 / 结果缓存(相同 system prompt 或相同检索结果不重复计算)。这两者要分清,问「模型有个缓存机制」通常指前者。
除模型本身还有什么吃内存:KV Cache(随并发与长度线性涨)、tokenizer 与词表、CUDA context 与框架自身的显存池、批处理时多条请求的中间激活、图片/音频等多模态输入的张量、日志与采样缓冲;CPU 内存侧还有数据加载、预处理和通信缓冲区(多卡时 NCCL buffer 会占掉可观的一块)。这题答得越具体越显得真跑过。
Agent 接口硬编码:正确答法是「不硬编码在业务代码里」,而是走配置:模型名、baseURL、超时、重试、温度这些放配置或环境变量,工具定义用 schema 描述后由框架注册,密钥走 secret 管理。硬编码的问题是可切换性差(换模型要改代码)、多环境不一致、密钥泄露风险。
用 AI 辅助学习:给一条闭环——先自己写出问题和预期,让 AI 讲思路而不是直接给答案;拿它的结论去查文档或跑实验验证;把踩到的边界条件补回自己的笔记;最后让它出题自测。强调「验证」这一步,面试官问这题就是在看会不会盲信模型输出。
复盘:这场面试的重心不在八股背诵,而在「你有没有真的把模型跑起来过」。操作系统部分答不上来是硬伤,虚拟内存、进程线程属于必背;模型部署部分则要能把显存账算清楚。