面试题库 › 算法 / 大模型 › 如何编写一个 CUDA 算子

如何编写一个 CUDA 算子

难度 ★★☆在 1 场真实面经中被问到 方向:算法 / 大模型考点:CUDA编程基础

哪些公司问过

科大讯飞1

常见岗位:AI 应用 / Agent 开发

答案要点

  1. kernel 用 __global__ 声明,全局下标 = blockIdx.x*blockDim.x+threadIdx.x,并做越界判断
  2. host 端 cudaMalloc 分配、cudaMemcpy 拷贝、<<<grid, block>>> 启动、cudaFree 释放
  3. 启动后用 cudaGetLastError 检查错误,kernel 异步执行,需要同步后再取结果
  4. 接入 PyTorch 时写 C++ 包装,取 tensor 数据指针,在当前 stream 上启动并与参考实现对拍
  5. 优化:合并访存、共享内存分块、减少 warp 分支发散和 bank 冲突,用 Nsight 分析

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题