面试题库 › 算法 / 大模型 › 用 Triton 写 GPU kernel 能解决什么问题

用 Triton 写 GPU kernel 能解决什么问题

难度 ★★★在 1 场真实面经中被问到 方向:算法 / 大模型考点:CUDA性能优化

哪些公司问过

快手1

常见岗位:推理部署与加速

答案要点

  1. Triton 是 Python 风格的 GPU kernel 语言与编译器,按块编程,线程映射、访存合并、共享内存由编译器处理
  2. 核心收益:把多个逐元素或归约算子融合成一个 kernel,减少中间结果读写显存的次数
  3. 典型场景:RMSNorm/LayerNorm、Softmax、激活加残差融合、反量化加矩阵乘、自定义注意力
  4. 用 autotune 自动搜索 BLOCK_SIZE、num_warps 等配置,开发周期通常短于手写 CUDA
  5. 局限:底层细节控制较弱,极致性能场景仍会用 CUDA 或 CUTLASS

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题