端侧 AI 部署如何管理内存避免 OOM
哪些公司问过
答案要点
- 静态分配或内存池,避免频繁 malloc/free 产生碎片
- 按张量生命周期做内存复用,降低峰值
- 限制输入尺寸,权重放 Flash 或量化减小体积
- 连续布局和分块计算,填充错开 2 的幂步长避免 cache 冲突
- DMA 搬运大块数据并处理 cache 一致性,上线前测峰值
易错点
- 运行时频繁动态分配导致碎片
- 只估算权重大小,忽略中间激活
- 忽视栈溢出,只关注堆内存
面试官常见追问
- 什么是 cache thrashing?
- 怎么测量峰值内存?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。