华为 10.28 AI 方向机考:10 道选择题与信息增益决策树
- 轮次
- 笔试
- 时间
- 2026-10
- 来源
- 牛客网
《面试题目》
第 1 题:选择题(10 题)
- 视觉骨干网络里,某一层卷积输出特征图的通道数通常由什么决定? A. 输入特征的通道数;B. 卷积核的空间尺寸;C. 该层卷积核的个数;D. 卷积的步长
- 下列激活函数中,值域为开区间 (0,1) 的是哪一个? A. Leaky ReLU;B. Sigmoid;C. Tanh;D. ReLU
- 向量 u 经 v = Mu 映到另一组坐标。矩阵 M 在这里主要起什么作用? A. 求矩阵的秩;B. 做特征变换或投影;C. 把样本从数据中删掉;D. 计算行列式
- Agent 范式 ReAct 的名字,是哪两个英文单词拼在一起? A. Reasoning 与 Acting;B. Read 与 Act;C. Recall 与 Activation;D. Real 与 Action
- 一个约 7×10¹⁰ 参数的问答模型正在预训练。论坛长文和问答对构成的训练集上困惑度一直在降;另采的一批真实用户提问上,困惑度先降后很快反弹。抽查生成文本能看到训练语料里的套话被反复说出,还伴随事实错误。下面哪条分析和对策最准确? A. 属于欠拟合,应把参数量或训练步数继续加大 B. 属于领域偏移,应去掉正则、直接在验证集上接着训到困惑度不再上升 C. 属于过拟合,应用权重衰减、Dropout 和早停,并在后续加入 RLHF 提升泛化与事实性 D. 属于过拟合,只要做交叉验证、让验证集和训练集分布完全一致即可
- 已知 a* = 8.76(绝对误差限 0.006),b* = 1.49(绝对误差限 0.004)。a* + b* 的绝对误差限是多少? A. 0.006;B. 0.024;C. 0.010;D. 0.004
- 关于量化与推理实现的配合,下面哪一句最准确? A. INT4 权重量化主要用来压缩权重,从而降低显存并缩短加载时间;部分 GPU 有 INT4 张量核心,但累加精度和软件生态受限,部署时通常先把权重反量化成 FP16 或 BF16 再计算 B. 融合算子时反量化要单独做成一个 kernel,不能和矩阵乘写在一起,这样精度稳、代码简单 C. KV Cache 做成低比特后只能靠加大 batch 或加长上下文间接抬高吞吐,单请求解码不会因此变快,因为解码算力吃紧、带宽不紧 D. 把激活量化到 INT8 主要是为了省显存,若只量化激活,计算前得先变回 FP16,用不上低精度乘加
- Agent 处理复杂任务时需要分解任务。下列哪一项是对的? A. 子任务必须一次拆到不能再分的原子动作,中间层不能再拆 B. 必须倒序规划:先写最终目标,再回头补子任务 C. 拆分方案定稿后,执行时不准根据反馈改动 D. 自顶向下拆分,把难题变成一组可执行、便于管理的子任务
- 为大模型 Agent 接入工具时,想减少调用错误。下列哪种做法是无效的? A. 发出调用之前,先检查参数类型和取值范围是否说得通 B. 规定每个工具在短时间窗口内最多调用几次 C. 给工具附上说明文字,写明能做什么、参数怎么填、会出什么错 D. 收回结果后先做校验,不对就重试,或切换到备用工具
- 随机变量 Z 的标准差为 4,W = -3Z + 5。方差 Var(W) 是多少? A. 48;B. -12;C. 12;D. 144
第 2 题:基于信息增益的决策树(150 分)
信息熵表示数据集的不确定性:H(S) = -Σ pᵢ log₂(pᵢ),c 是类别数、pᵢ 是第 i 类的出现频率。按特征 A 划分后不确定性减少的量是信息增益 IG(S,A) = H(S) - Σ (|Sᵥ|/|S|)·H(Sᵥ),Sᵥ 是 A 取值为 v 的样本子集,增益越大越适合用来分裂。
要求实现按信息增益建树的离散决策树分类器。每条训练样本形如 [feature_1, …, feature_m, label],特征与标签都是整数,特征下标从左到右为 0..m-1。建树规则:
- 当前子集标签全部相同、或没有尚未使用的特征,则该结点为叶子;叶子类别取子集中出现次数最多的标签,次数相同取较小的标签。
- 否则只在尚未使用的特征里选信息增益最大的那个分裂,增益相同取下标较小的特征;同一条从根到叶的路径上每个特征至多使用一次。
- 只对当前子集里实际出现过的取值建子结点,并在对应子集上递归。
- 预测时从根往下走;若测试样本在某个结点特征上的取值没有出现在该结点的训练子集中,就输出该结点的多数标签(并列取较小)。
输入:第一行 m(特征数),第二行 n(训练样本数),随后 n 行每行 m+1 个整数(前 m 个特征、最后一个标签),再一行 k(待预测样本数),随后 k 行每行 m 个整数。
输出:k 行,每行一个整数表示预测类别。
样例(m=2、5 条训练样本、4 条待预测):训练集 (0,0)→0、(0,1)→0、(1,0)→1、(1,1)→0、(2,0)→1;对 (0,1)、(1,0)、(1,1)、(2,0) 的预测输出依次为 0 1 0 1。父集标签是 3 个 0、2 个 1,特征 0 的增益约 0.571、特征 1 约 0.420,所以选特征 0 做根;取值 1 的分支剩下标签 1、0 继续用特征 1 划分,取值 0 的分支全为 0,取值 2 的分支全为 1。
《参考解析》
选择题:定义级与算题型各占一半。 卷积输出通道数等于该层卷积核(filter)的个数,与输入通道数无关——输入通道数只决定每个卷积核的深度;这是卷积层形状推导里最容易被绕晕的一条。激活函数的值域要记准:Sigmoid 是开区间 (0,1),Tanh 是 (−1,1),ReLU 是 [0,+∞),Leaky ReLU 也是 (−∞,+∞),题面问「开区间 (0,1)」只有 Sigmoid 符合。v = Mu 的实质是把向量线性映射到新的特征/坐标空间,就是特征变换与投影;求秩、算行列式是矩阵本身的性质,不是这个乘法的语义。ReAct = Reasoning + Acting,即让模型交替地「想一步、做一步、看结果再想」,这也是后来自主 Agent 循环的雏形。
困惑度那道题是整卷最有信息量的一题,考的是会不会读训练曲线。 训练集困惑度持续下降、另采的真实提问先降后升,是过拟合的教科书形态:模型把训练语料里的套话、噪声和偏差一起记了下来,于是换到真实提问上既会复读又会编事实。所以对的选项是「过拟合 + 权重衰减/Dropout/早停 + 后续 RLHF」。其余三项各自错在要害:把验证指标恶化读成欠拟合,会继续加参数加步数,只会更糟;「领域偏移所以在验证集上接着训」是把评估集当训练集用,指标好看但泛化更差;「做交叉验证让训练集与验证集分布一致」等于抹掉了要衡量的那个差距,问题被定义掉了。工程上真正的处置顺序是:先查训练/验证的分布差与数据泄漏,再用正则与早停压住过拟合,最后用 SFT/RLHF 修事实性与风格。
误差限与方差是两道不能想太多的小题。 加减运算的绝对误差限直接相加:0.006 + 0.004 = 0.010。乘除才按相对误差限相加。方差的计算用 Var(aZ + b) = a²Var(Z):已知标准差为 4 所以 Var(Z)=16,Var(W) = (−3)² × 16 = 144;选项里的 48、12 都是把标准差和方差混用才会算出来的数,−12 则是忘了方差非负。
量化那条要能分辨「压缩」和「加速」是两件事。 INT4 权重量化最直接的收益是权重体积与显存占用下降、加载变快,同时降低 decode 阶段的访存压力;但很多 GPU 的 INT4 张量核心在累加精度与算子生态上不成熟,工程上常见的做法确实是先反量化到 FP16/BF16 再算,所以 A 是唯一站得住的描述。B 错在反了方向:把反量化融进矩阵乘的 kernel 里(而非单独拆一个)才是性能与精度的常规权衡。C 把 KV Cache 低比特化的收益说反了——decode 阶段恰恰是带宽瓶颈,把 Cache 压小能直接降低单请求每 token 的访存延迟。D 也不对:只量化激活同样能利用低精度乘加(权重侧配 weight-only 或 W8A8 方案),并非必须变回 FP16。
Agent 两题考的是工程直觉。 任务分解是自顶向下的,把难题变成一组可执行、便于管理的子任务,允许中间层、也允许执行中根据反馈调整;「必须一次拆到原子动作」「定稿后不准改」这类绝对化表述都是错的。减少工具调用错误的四种做法里,只有「限制单位时间内的调用次数」是无效的:限流管的是频率与成本,管不了参数填错、取值范围越界、结果不合法这些真正的错误来源;提交前校验参数、把工具说明写清、拿到结果后校验并重试或切换备用工具,这三条才直接作用于错误率。
决策树编程题:题面规定了流水线,别自己加聪明。 关键是把规则精确翻译成代码,四个边界最常丢分。一是熵的计算只统计实际出现的类别,单一类别的熵必须是 0,用「固定 c 类」的写法会算出负熵或 NaN;浮点比较增益要留容差(例如 1e-9),并且只有新增益明确更大才替换,相等时保留下标更小的特征。二是每个特征在一条路径上至多使用一次,实现上是把「已用特征集合」随递归传递,而不是简单地把该列删掉后再也放不回。三是只对当前子集实际出现的取值建分支,预测时碰到没见过的取值就回退到该结点的多数类——这要求每个结点在训练时就把多数标签存下来,不能只在叶子上存。四是多数类的并列规则:出现次数相同取较小标签,所以统计时用有序结构(或排序后扫描)并从最小值开始比较,别用哈希表的不确定遍历顺序。样例里父集 3 个 0、2 个 1,多数是 0;特征 0 的增益 0.571 高于特征 1 的 0.420,选特征 0 做根,再对取值 1 的分支继续用特征 1 分裂,这四个测试点就都能落对。
复杂度上,每个结点对每个候选特征做一次分组与熵统计,单次约 O(n log n),最坏整棵树约 O(m²·n·log n),空间 O(m·n)(递归时复制子集并保存树结构)。样本量和特征数都不大时这样写完全够用;如果要把这类实现用到真实数据上,下一步该做的是预排序或直方图式的分裂查找,把每层从 O(n log n) 压到 O(n)。