后端与大模型的关系,大模型应用开发流程有何不同
哪些公司问过
FOSHO1
答案要点
- 后端和大模型是协作关系:模型是被集成调用的能力
- 后端负责鉴权、限流、缓存、日志、队列、计费等模型之外的工程
- 大模型应用的输出不确定,开发围绕评测集迭代,而不是只靠单元测试
- 多出数据收集清洗标注、模型选型与微调、提示词和检索设计等环节
- 上线后关注成本、延迟、全链路追踪,用反馈形成数据闭环
易错点
- 把大模型开发说成只是调接口
- 忽略评测和安全护栏
- 不关注成本和延迟
面试官常见追问
- 为什么大模型应用要有评测集?
- 后端在 AI 应用里要做哪些保护?
- 成本怎么控制?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。