面试题库 › 算法 / 大模型 › 如何判断访存受限还是计算受限

如何判断访存受限还是计算受限

难度 ★★★在 3 场真实面经中被问到 方向:算法 / 大模型考点:性能分析与调试

哪些公司问过

卓驭2宇树科技1

常见岗位:推理部署与加速

答案要点

  1. 计算强度=运算量/访存字节数,与硬件拐点(峰值算力/带宽)比较
  2. 先 profiling 定位热点算子,GPU 用 Nsight Systems 看时间线、Nsight Compute 看 kernel
  3. 算力利用率高为计算受限,带宽打满算力闲置为访存受限,都低多为延迟受限
  4. 无工具时可做对照实验:改变数据量、精度或频率看耗时变化
  5. 访存受限靠算子融合、分块复用、量化;计算受限靠更优算法和低精度算力

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题