大模型私有化与纯离线环境部署流程
哪些公司问过
共济科技2
答案要点
- 研发侧:CI 构建镜像、规范版本标签,推送私有仓库(如 Harbor),制品与模型权重入库并记录校验和
- 离线打包:按版本清单 docker save 导出镜像,连同模型、驱动、依赖、部署脚本打成介质
- 现场部署:检查驱动、CUDA、容器运行时兼容性,docker load 或内网私有仓库导入,Helm/脚本拉起
- 验收:冒烟测试、功能与性能验收,文件校验防止介质损坏或被篡改
- 升级维护:增量包、保留旧版本可回滚,日志监控在内网闭环
易错点
- 镜像使用 latest 标签,现场无法确认版本
- 离线包漏掉基础镜像或依赖组件,现场无法联网补齐
- 不做校验,介质损坏到部署时才发现
面试官常见追问
- 模型权重很大,离线交付怎么处理?
- 现场 GPU 驱动版本和镜像不匹配怎么办?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。