01 结论先行

别先堆 Agent
先把调用边界讲清

口播LLM 生成 · RAG 供据 · Agent 行事——考点是分流,不是框架名。

一句话:LLM 负责说,RAG 负责有据,Agent 负责做事。
Prompt 钉成可测契约;拒答与审计守住幻觉。

AgentX · DigitalHuman · HeroDash 老李 · AI 架构师 面试讲解稿
先立痛点:模型很会说,系统为什么不会管?
02 痛点

Why · 先定「什么时候不该调模型」

接了 API ≠ 上线:三坑把系统拖垮

口播聊天、查库、改单塞一个 Prompt;假 RAG;Agent 当万能胶——成本、口径、延迟一起爆。

1

无边界调用

全塞一个 Prompt → 成本失控,出错难追责。

2

假 RAG

PDF 切一刀进向量库;命中率好看,业务口径一对就穿帮。

3

Agent 万能胶

规划链越长,幻觉 × 误调用叠乘,延迟滑到不可用。

问题不在模型不够聪明 —— 在 调用边界没画清
痛点立住了——下一页正名:三条链路,不是三个时髦词。
03 是什么

What · 一句话定义 + 不是什么

四件套:LLM · RAG · Agent · Prompt

口播按行念「是什么 / 不是什么」——面试先划清边界,再谈选型。

能力一句话不是什么
LLM生成与推理引擎不是真相源 · 不是事务系统
RAG检索增强,可信片段进上下文不是「向量库 = 智能」
Agent规划 → 选工具 → 执行 → 记忆不是无限循环聊天机器人
Prompt可版本、可回归的契约不是玄学咒语
框架心智

LangChain / LangGraph 给编排抽象;AgentX 用 DAG + MCP + 多模型 API 对齐能力——讲清「节点是什么、失败怎么回滚」比背框架名管用。

定义清楚了——下一页用场景表:什么业务选什么链,证据锚在哪。
04 为什么用

Why · 业务压出来的,不是技术橱窗

反直觉:Agent 越多,越要先砍 Agent

口播先证明直调或 RAG 不够,再加规划器。客服主路径往往是「查得到就答」。

场景选型简历证据
数字人交互 LLM + ASR/TTS + 低延迟编排 DigitalHuman:2s→500ms · 99.9% · LiveKit · 兴业/国泰/瑞众私有化
智能客服 / 知识库 RAG + Prompt 调优 HeroDash:RAG 知识库 · 600+ 并发 · 500 万+ 用户 · 多源模型
内部研发助手 Agent + MCP 工具 AgentX:DAG Agent · MCP · 多模型路由
选型有据了——下一页三条边界规则:面试常背三句。
05 调用边界

How · 事实 / 行动 / 闲聊 先分流

三条硬规则:直调 · 拒答 · 白名单

口播从左到右念;每条对应一个禁止动作——禁止「编一个好听的」。

L

LLM

无外部事实、无副作用 → 直调;有事实 → 强制走 RAG。

R

RAG

检索 → 重排 → 置信阈值;不够就拒答或澄清,禁止瞎补。

A

Agent

仅白名单工具;每步写审计;超时与最大步数硬顶。

闲聊→ LLM
·
事实→ RAG
·
行动→ Agent
规则会背了——下一页打开整条架构:接入 → 路由 → 三核 → 审计。
06 架构

How · 一条可讲清的调用面

四层咬合:接入 · 路由 · 三核 · 数据审计

口播从上往下讲;HeroDash 换模型不改业务协议,靠的是这一层稳定。

解

DigitalHuman

ASR/TTS 与 LLM 解耦;LiveKit 扛实时 → 2s→500ms。

拆

HeroDash

知识库与客服策略拆开;600+ 并发下可换供应商。

顶

AgentX

步数顶 + 审计;失败可重试或转人工。

架构可画了——下一页拆 RAG 最小闭环:切分到拒答。
07 RAG 链路

Do · 胜负在拒答,不在召回率好看

HeroDash 口径:有出处才答,不够就拒

口播按箭头念六步;Prompt 只许引用检索片段,禁止「根据常识补充」。

1标题+语义切分
→
2向量 TopK
→
3交叉重排
→
4score < τ?
→
5拒答 / 引用答
评测诚实边界

没有「幻觉评测中台」

  • 黄金问答集 + 人工抽检
  • 线上拒答率 / 转人工率
  • 可回归用例,不吹中台
可复述分数

面试能演示什么

  • 复现一次拒答
  • 引用片段 ID 可核对
  • 阈值调参有前后对比
RAG 闭环清楚了——下一页 Agent:规划 - 工具 - 记忆,禁止无限 ReAct。
08 Agent

Do · DAG + MCP + 步数顶

AgentX 对齐 LangGraph:状态机可恢复,不是无限聊天

口播规划器出 DAG;节点绑 MCP;短期记忆只存本轮状态与工具回执。

1

规划

出 DAG,先画图再自动化。

2

工具

MCP schema · 参数校验 · 高危人工确认。

3

记忆

短期:本轮状态 + 工具回执。

4

硬顶

最大步数 · 超时 · 失败转人工。

实战分数看两刀:一次 拒答 + 一次 工具失败恢复 —— 能讲清比堆十个框架名更像架构师
Agent 边界钉住了——下一页把三条证据链并排,数字只取简历有的。
09 证据链

Do · AgentX / DigitalHuman / HeroDash

三条可复述链路:各解一类题

口播按列念:项目 → 主链路 → 诚实数字。Prompt 与路由进配置包,KA 可换模型不改契约。

DH

DigitalHuman

实时交互:延迟 2s→500ms · 可用性 99.9% · LiveKit · 兴业/国泰/瑞众私有化。

HD

HeroDash

客服 RAG:600+ 并发 · 500 万+ 用户 · Llama3 / Whisper / Azure / Google 多源。

AX

AgentX

研发助手:DAG + MCP + 多模型路由;Prompt 与 DAG/MCP 同库。

接入顺序(搭骨架)

路由表 → 多模型 API → RAG 闭环 → Agent 白名单 → Prompt 入库 → 观测同看板

证据排齐了——下一页三条洞见:边界、拒答、Prompt 契约。
10 洞见 ×3

Insight · 博观而约取

带走三条:边界 · 拒答 · 契约

口播换更强模型,不如先把「事实 / 行动 / 闲聊」分流做对。

1

边界比模型贵

HeroDash 扛 500 万+ 用户,靠协议稳定,不是单模型神话。

2

RAG 胜负在拒答

召回率好看没用;业务要「答错不如不答」。

3

Prompt 是契约

可版本 · 可 diff · 可黄金集回归——别只聊温度参数。

Prompt 分层

System · Developer · User —— 分层入库,灰度可回滚。

黄金集断言

引用断言 · 拒答断言 · 禁字段 —— 同意图至少两套 Prompt 并行。

洞见收束——下一页速查:七个考点怎么答、锚点在哪。
11 方法论速查

Cheat sheet · 七个面试考点

一张表答完:考点 · 答法 · 证据锚点

口播按行扫;先画意图路由图,再讲拒答与工具失败恢复。

考点怎么答证据锚点
LLM 调用边界无事实无副作用才直调路由表 + 审计
RAG 链路切分→向量→重排→拒答HeroDash 知识库客服
Agent规划→白名单工具→记忆→步数顶AgentX DAG + MCP
Prompt版本化 + 黄金集多环境同一契约
幻觉控制强制引用 / 拒答 / 人工兜底抽检 + 转人工率
评测黄金集与线上指标,不吹中台诚实边界
实时与私有化链路解耦 + KA 配置包DigitalHuman / LiveKit
速查齐了——最后一页收束公式 + 面试行动号召。
12 收束

带走 · 公式 → 两刀演示

一句话:先分流,再谈模型

口播复述公式,带走一张意图路由图 + 两个案例。

LLM 生成 · RAG 供据 · Agent 行事 · Prompt 可测契约 · 拒答与审计 守幻觉
1

画意图路由图

闲聊 / 事实 / 行动 三路进配置,不写死 Prompt。

2

讲一次拒答

score < τ → 拒答文案 + 转人工。

3

讲一次工具失败恢复

重试 / 转人工 / 审计可回放。

能把这两刀讲清楚,比堆十个框架名更像架构师。