语义路由的实现与效果评估
哪些公司问过
AI岗位1
答案要点
- 定义:按 query 语义把请求分发到不同链路、工具或模型
- Embedding 路由:每条路由配描述和示例问法,按相似度取最高,低于阈值走兜底
- LLM 路由:提示词列出路由说明加 few-shot 让模型分类,更灵活但延迟成本高,可与 embedding 级联
- 离线评估:标注测试集,看准确率、各类精确率召回率与混淆矩阵
- 线上评估:端到端任务成功率、延迟与成本,A/B 实验对比
易错点
- 各路由描述和示例过于相似,导致频繁误分
- 不设兜底,低置信请求被强行分到错误链路
- 只看路由准确率,不看端到端任务效果
面试官常见追问
- 相似度阈值怎么定?
- 新增路由时要注意什么?
完整的口述示范答案、每个追问的参考回答,在启面刷题中心查看;也可以让 AI 面试官用语音按这道题连环追问你。