如何理解 Agent 自进化
哪些公司问过
答案要点
- 定义:Agent 基于环境反馈自动改进提示词、记忆、工具技能库乃至模型参数
- 反馈闭环:执行产生轨迹 → 奖励、自动评测或反思判断成败 → 提炼经验并更新
- 典型机制:语言反思(如 Reflexion)、技能库积累(如 Voyager)、提示词自动优化、基于轨迹的微调或 RL
- 挑战:评价信号不可靠导致目标漂移、新经验破坏旧能力、自动生成代码带来安全风险
- 保障:沙箱验证、版本快照与回滚、回归评测与人工审核
易错点
- 只用模型自评作为进化信号,容易自我强化错误
- 只看新任务提升,不做回归测试,忽略能力遗忘
- 自动生成的代码直接在生产环境执行
面试官常见追问
- 用于自进化的数据从哪来?怎么保证是高质量数据?
- 为什么自进化要放在沙箱环境里做?
- 沙盒的安全性怎么做隔离?
- 评测体系怎么做?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。