GPU/CUDA 编程中的死锁
哪些公司问过
答案要点
- 表现:部分线程永久等待,kernel 挂起不返回
- __syncthreads 放在分支中,部分线程无法到达屏障,属未定义行为,常导致挂起
- warp 内自旋锁:Volta 之前锁步执行可能让持锁线程无法推进
- 跨 block 自旋等待:block 不保证同时驻留,需拆 kernel 或用 cooperative 网格同步
- 排查:compute-sanitizer(synccheck、racecheck)、cuda-gdb
易错点
- 以为把 __syncthreads 放在分支里只是效率问题
- 假设所有 block 会同时运行并在 block 间做自旋同步
- 忽略原子操作之外的内存可见性,缺少内存屏障
面试官常见追问
- 分布式训练中 GPU 卡住不动常见原因?
- 如何安全地实现块内的锁?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。