面灵AI→

拼多多 AI Infra 一面:GPU 存储层次、编译链接与手写内存分配器

时间
2026-11
来源
牛客网

《面试题目》

  1. 介绍 GPU 的多层存储结构。
  2. 在一个 .cpp 文件里写下 #include "xxx.h" 之后,编译工具链会做什么?
  3. 头文件重复包含会出现什么问题?例如 a.h 被 b.h 包含,而一个 .cpp 又同时包含 a.h 和 b.h,会发生什么?
  4. 如何用条件编译避免头文件重复包含?define 这类头文件保护宏的原理是什么?
  5. 给出一段创建 vector 的代码,容器包含 1000 个元素、初始值为 1:这段代码涉及多少次内存分配?哪些内容在栈上、哪些在堆上?(需要区分 vector 对象本身与它管理的元素存储)
  6. 什么样的对象在栈上,什么样的内存在堆上?对于 void* addr = malloc(4000);,指针变量 addr 和申请到的 4000 字节分别在哪里?
  7. 返回的地址是虚拟地址还是物理地址?
  8. 是否遇到过 core dump?常见原因有哪些?如果出现 core dump,会如何定位问题?
  9. 是否遇到过内存泄漏?
  10. 手撕:实现单线程内存分配器(MyAllocator(int capacity)、void* allocate(int size)、void free(void* ptr),Best-Fit、立即合并、禁止重复释放、复杂度尽量低于 O(n))。

《参考解析》

GPU 存储层次:从大到小、从慢到快——全局显存(HBM/GDDR,几十 GB,带宽数百 GB/s 到数 TB/s)、L2 cache(几十 MB,所有 SM 共享)、每个 SM 的共享内存/便签内存(几十到上百 KB,可编程、需手动管理)、L1 cache 与纹理缓存、寄存器文件(每个线程私有,数量有限,寄存器溢出会落到本地内存)。另有常量内存(只读、有缓存、适合广播)与本地内存(寄存器溢出的溢出区,实际在显存里,访问慢)。写 kernel 时的优化围绕「提高算术强度、让访问 coalesced、把热点数据放进共享内存、避免 bank conflict、控制寄存器占用以提高 occupancy」。

#include 之后工具链做了什么:预处理阶段把头文件内容原地展开(递归展开它包含的头文件),处理宏替换、条件编译、#pragma;然后编译成汇编(语法/语义分析、优化),汇编成目标文件 .o(符号表、重定位信息),最后由链接器把多个目标文件和库合并成可执行文件(符号解析、地址重定位、静态库按需抽取、动态库延迟绑定)。现代编译器用预编译头(PCH)或模块(C++20 modules)加速重复展开。

头文件重复包含:同一个头文件被展开两次会导致类/结构体/函数/宏重复定义,编译报 redefinition;如果是函数定义(非 inline)还会在链接期报重复符号。a.h 被 b.h 包含、.cpp 又直接包含 a.h,是典型的菱形包含。

保护宏:#ifndef XXX_H / #define XXX_H / #endif,第一次展开时宏未定义、内容被编译并定义宏;第二次展开时宏已定义,整段被预处理跳过。#pragma once 是编译器扩展,按文件路径去重,更简洁但依赖文件系统对同一文件路径的判定(硬链接、符号链接可能失效)。两者可以同时用。

vector 的内存分配:std::vector<int> v(1000, 1); 通常只分配一次堆内存(1000 个 int 的连续空间),vector 对象本身(三个指针)在栈上(如果是局部变量)。但标准没有规定 growth 策略,构造时按指定大小一次分配是常见实现;如果是先 push_back 1000 次,则会经历多次扩容(1、2、4、8…约 10~11 次分配)。面试时要区分「构造时指定大小」与「逐步 push_back」,并说明 reserve 可以避免扩容。

栈与堆:栈上放局部变量、函数参数、返回地址,由编译器自动管理,大小有限(通常几 MB),分配是移动栈指针、极快;堆由 malloc/new 分配、手动释放,大小受物理内存与虚拟地址空间限制,分配要走分配器、可能触发系统调用。void* addr = malloc(4000); 中 addr 这个指针变量本身在栈上(局部变量),它指向的 4000 字节在堆上。全局/静态变量在数据段,不在栈也不在堆。

虚拟地址还是物理地址:malloc 返回的是进程虚拟地址空间中的地址,经过页表映射到物理页;malloc 本身可能只分配虚拟地址(brk/mmap),第一次访问触发缺页中断才分配物理页。所以「返回的是虚拟地址」,且这块内存可能还没有物理页。

core dump 常见原因:空指针/野指针解引用、数组越界、栈溢出(递归过深)、除零、重复释放/释放后使用、多线程数据竞争、未捕获的异常、abort()。定位:确认 core 文件生成(ulimit -c unlimited、/proc/sys/kernel/core_pattern),用 gdb ./binary core 看 bt 调用栈、frame 切换、info locals、p 打印变量;结合 addr2line 还原符号;用 ASan/Valgrind 在测试环境复现;看 dmesg 里的 segfault 地址。

内存泄漏:见上文 OBSBOT/大疆条目中的通用方法:RAII、智能指针、容器管理、ASan/Valgrind/heaptrack、重载 new/delete 记录分配栈、监控 RSS 曲线。

手写内存分配器:核心是把预分配的一大块内存切成「块头 + 数据」的链表。每个块头记录大小、是否空闲、前后指针(或偏移)。allocate(size) 遍历空闲链表找 Best-Fit(大小 ≥ size 且最小,相同大小取地址最小),找到后切分:如果剩余空间足够放一个块头 + 最小块,就分裂成「已分配块 + 空闲块」,否则整块给出;返回数据区指针。free(ptr) 通过指针减块头大小拿到块头,标记空闲,然后检查物理相邻的前后块是否空闲并合并(需要能 O(1) 找到前后块:用边界标记 boundary tag,在块尾存块头副本,或在块头存前后块的偏移)。重复释放检测:块头里存 magic 值与状态位,free 时校验;已释放再 free 直接忽略或断言。复杂度:朴素 Best-Fit 是 O(n);要低于 O(n) 可以按大小分桶( segregated free list,每档一个链表,O(1) 找到合适档位再在档内找最小)、或用平衡树/线段树按大小索引空闲块(O(log n))。面试时先把朴素版写对,再讲优化方向。

这场的考察意图:拼多多 AI Infra 的这组题从 GPU 到编译器到内存管理,考的是「系统底层的完整链条」——能不能从一行代码追到内存与硬件。手写分配器则是把「理解」变成「实现」,重点在块头设计、切分与合并、边界条件(容量不足、size 为 0、对齐、重复释放)。