面试题库 › C++ / 后端 › AI Agent 后端架构:LLM 集成、延迟优化与提示注入防护

AI Agent 后端架构:LLM 集成、延迟优化与提示注入防护

难度 ★★★在 2 场真实面经中被问到 方向:C++ / 后端考点:架构设计与演进

哪些公司问过

美团1阿里巴巴1

常见岗位:人工智能、Java 后端

答案要点

  1. 分层:接入层、编排层、模型适配层、工具与记忆层,业务不直接依赖具体模型
  2. 适配层统一调用接口,处理超时、重试、限流与多模型 fallback
  3. 延迟优化:流式输出、工具调用并行、结果或前缀缓存、小模型路由、压缩上下文
  4. 注入防护:区分指令与外部数据、工具最小权限、高危操作人工确认、输出校验
  5. 全链路记录 prompt、工具调用和 token 消耗,便于审计与成本控制

易错点

面试官常见追问

完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。

相关面试题