混合精度 面试题

10.22 字节跳动大模型算法三面：Transformer 复杂度推导与训练工程追问

字节跳动大模型算法三面：从项目归因问到 Transformer 复杂度推导与成本结构，再落到 KV cache、位置编码外推、混合精度与 ZeRO 等训练工程，最后手撕三维积木堆叠。