面试题库 › 算法 / 大模型 › 跨NUMA访问导致性能下降如何调优

跨NUMA访问导致性能下降如何调优

难度 ★★★在 1 场真实面经中被问到 方向:算法 / 大模型考点:性能排查与调试

哪些公司问过

沐曦1

常见岗位:推理部署与加速

答案要点

  1. 原因:远端内存访问延迟高、带宽低,线程跨节点迁移导致缓存失效
  2. 定位:numactl --hardware和lscpu看拓扑,numastat看numa_miss、numa_foreign,perf看缓存未命中
  3. 绑定:numactl --cpunodebind/--membind、taskset、cgroup cpuset,让计算和内存在同一节点
  4. first-touch:由真正使用数据的线程初始化数据;按节点分片数据和线程池
  5. 单进程大内存场景可用interleave交错分配;关注内核自动NUMA均衡带来的影响

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题