面试题库 › 算法 / 大模型 › CUDA 矩阵转置、向量外积与 GEMM 优化

CUDA 矩阵转置、向量外积与 GEMM 优化

难度 ★★★在 2 场真实面经中被问到 方向:算法 / 大模型考点:CUDA性能优化

哪些公司问过

汇川联合动力1

常见岗位:推理部署与加速、嵌入式软件

答案要点

  1. 转置:shared memory 分块,读写都保证全局内存合并访问
  2. 按列读 shared memory 会 bank conflict,32×33 填充一列消除冲突
  3. 外积每线程算一个或多个元素,瓶颈在写 C,需合并写并可 float4 向量化
  4. GEMM:shared memory 分块 + 寄存器分块提高计算访存比
  5. float4 向量化、双缓冲隐藏访存延迟,可进一步使用 Tensor Core

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题