TensorFlow Lite核心组件与部署流程
答案要点
- 转换器TFLiteConverter把SavedModel或Keras模型转为.tflite,并做图优化和量化
- 模型格式基于FlatBuffers,可内存映射直接读取,加载快、内存占用小
- 解释器负责加载模型、分配张量和调度算子;Delegate把子图交给GPU、NNAPI等加速器
- 量化方式:动态范围量化、基于代表性数据集的全整数量化、float16量化,精度不足时用量化感知训练
- 设备端流程:加载模型、建解释器、AllocateTensors、写输入、Invoke、读输出,再做性能评测调优
易错点
- 量化后不在验证集上对比精度就直接上线
- 以为Delegate能跑所有算子,不支持的部分会回落CPU并产生数据拷贝开销
- 在单片机上照搬移动端API,忽视TFLite Micro的静态内存和算子注册
面试官常见追问
- 全整数量化为什么需要代表性数据集?
- 遇到不支持的算子怎么办?
- TFLite Micro与普通TFLite有什么不同?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。