口播LLM 生成 · RAG 供据 · Agent 行事——考点是分流,不是框架名。
一句话:LLM 负责说,RAG 负责有据,Agent 负责做事。
Prompt 钉成可测契约;拒答与审计守住幻觉。
Why · 先定「什么时候不该调模型」
口播聊天、查库、改单塞一个 Prompt;假 RAG;Agent 当万能胶——成本、口径、延迟一起爆。
全塞一个 Prompt → 成本失控,出错难追责。
PDF 切一刀进向量库;命中率好看,业务口径一对就穿帮。
规划链越长,幻觉 × 误调用叠乘,延迟滑到不可用。
What · 一句话定义 + 不是什么
口播按行念「是什么 / 不是什么」——面试先划清边界,再谈选型。
| 能力 | 一句话 | 不是什么 |
|---|---|---|
| LLM | 生成与推理引擎 | 不是真相源 · 不是事务系统 |
| RAG | 检索增强,可信片段进上下文 | 不是「向量库 = 智能」 |
| Agent | 规划 → 选工具 → 执行 → 记忆 | 不是无限循环聊天机器人 |
| Prompt | 可版本、可回归的契约 | 不是玄学咒语 |
LangChain / LangGraph 给编排抽象;AgentX 用 DAG + MCP + 多模型 API 对齐能力——讲清「节点是什么、失败怎么回滚」比背框架名管用。
Why · 业务压出来的,不是技术橱窗
口播先证明直调或 RAG 不够,再加规划器。客服主路径往往是「查得到就答」。
| 场景 | 选型 | 简历证据 |
|---|---|---|
| 数字人交互 | LLM + ASR/TTS + 低延迟编排 | DigitalHuman:2s→500ms · 99.9% · LiveKit · 兴业/国泰/瑞众私有化 |
| 智能客服 / 知识库 | RAG + Prompt 调优 | HeroDash:RAG 知识库 · 600+ 并发 · 500 万+ 用户 · 多源模型 |
| 内部研发助手 | Agent + MCP 工具 | AgentX:DAG Agent · MCP · 多模型路由 |
How · 事实 / 行动 / 闲聊 先分流
口播从左到右念;每条对应一个禁止动作——禁止「编一个好听的」。
无外部事实、无副作用 → 直调;有事实 → 强制走 RAG。
检索 → 重排 → 置信阈值;不够就拒答或澄清,禁止瞎补。
仅白名单工具;每步写审计;超时与最大步数硬顶。
How · 一条可讲清的调用面
口播从上往下讲;HeroDash 换模型不改业务协议,靠的是这一层稳定。
ASR/TTS 与 LLM 解耦;LiveKit 扛实时 → 2s→500ms。
知识库与客服策略拆开;600+ 并发下可换供应商。
步数顶 + 审计;失败可重试或转人工。
Do · 胜负在拒答,不在召回率好看
口播按箭头念六步;Prompt 只许引用检索片段,禁止「根据常识补充」。
Do · DAG + MCP + 步数顶
口播规划器出 DAG;节点绑 MCP;短期记忆只存本轮状态与工具回执。
出 DAG,先画图再自动化。
MCP schema · 参数校验 · 高危人工确认。
短期:本轮状态 + 工具回执。
最大步数 · 超时 · 失败转人工。
Do · AgentX / DigitalHuman / HeroDash
口播按列念:项目 → 主链路 → 诚实数字。Prompt 与路由进配置包,KA 可换模型不改契约。
实时交互:延迟 2s→500ms · 可用性 99.9% · LiveKit · 兴业/国泰/瑞众私有化。
客服 RAG:600+ 并发 · 500 万+ 用户 · Llama3 / Whisper / Azure / Google 多源。
研发助手:DAG + MCP + 多模型路由;Prompt 与 DAG/MCP 同库。
路由表 → 多模型 API → RAG 闭环 → Agent 白名单 → Prompt 入库 → 观测同看板
Insight · 博观而约取
口播换更强模型,不如先把「事实 / 行动 / 闲聊」分流做对。
HeroDash 扛 500 万+ 用户,靠协议稳定,不是单模型神话。
召回率好看没用;业务要「答错不如不答」。
可版本 · 可 diff · 可黄金集回归——别只聊温度参数。
System · Developer · User —— 分层入库,灰度可回滚。
引用断言 · 拒答断言 · 禁字段 —— 同意图至少两套 Prompt 并行。
Cheat sheet · 七个面试考点
口播按行扫;先画意图路由图,再讲拒答与工具失败恢复。
| 考点 | 怎么答 | 证据锚点 |
|---|---|---|
| LLM 调用边界 | 无事实无副作用才直调 | 路由表 + 审计 |
| RAG 链路 | 切分→向量→重排→拒答 | HeroDash 知识库客服 |
| Agent | 规划→白名单工具→记忆→步数顶 | AgentX DAG + MCP |
| Prompt | 版本化 + 黄金集 | 多环境同一契约 |
| 幻觉控制 | 强制引用 / 拒答 / 人工兜底 | 抽检 + 转人工率 |
| 评测 | 黄金集与线上指标,不吹中台 | 诚实边界 |
| 实时与私有化 | 链路解耦 + KA 配置包 | DigitalHuman / LiveKit |
带走 · 公式 → 两刀演示
口播复述公式,带走一张意图路由图 + 两个案例。
闲聊 / 事实 / 行动 三路进配置,不写死 Prompt。
score < τ → 拒答文案 + 转人工。
重试 / 转人工 / 审计可回放。