残差网络 ResNet 与神经架构搜索 NAS
哪些公司问过
答案要点
- ResNet 解决深层网络的退化问题和梯度消失
- 残差块输出 F(x)+x,学习残差,最差退化为恒等映射,更易优化
- 跳跃连接让梯度直接回传,上百层网络可训练
- NAS 自动搜索网络结构,瓶颈是搜索空间大、算力成本高
- NAS 演进:强化学习或进化 → 参数共享 → 可微搜索(DARTS)→ 超网训练
易错点
- 把残差连接说成只是为了加深网络
- 说不清为什么恒等映射更容易学
- 忽略残差块维度匹配
- 认为 NAS 没有计算成本问题
面试官常见追问
- 残差连接为什么有效?
- 残差块里维度不一致怎么办?
- NAS 为什么很慢,怎么加速?
- ResNet 和 Transformer 里的残差有什么关系?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。