EdgeOne Makers · 模型之上,基建该买就买
口播生产难点不在业务逻辑,在外围基础设施——胶水工程别让业务团队买单。
前两场立「纪律与编制」;这场解决 Runtime / 沙箱 / Store / 观测 / 模型网关 谁供。
研发定规矩与验证权,高频无差异基建优先平台化。
全场叙事 · 先给路线,再进细节
口播别当四章目录——这是讲解顺序,后一步只服务前一步的问题。
情境:前两场立纪律。
冲突:Demo 三天,上线两周搓胶水。
判据:高频 / 无差异 / 系统级。
单一 handler(context)。
五大能力边界。
agents/ vs cloud-functions/。
四种场景选刀。
Store 唯一事实源。
粘性与无状态划分。
三条命令摸水位。
三层分工 + 防锁定。
starter 跑通本地 trace。
为什么 · 前两场立纪律,这场补运行时
口播先对齐分工——研发管 Spec/Rule/验证权;Runtime 以下高频无差异的,别每个业务线重复造。
业务可否上线仍由你们的门禁说了算;平台提供可观测与隔离,验证权不外包。
为什么 · 最耗人的往往不是 Prompt
口播客服 Agent 典型路径——业务代码三天完,上线前卡在沙箱隔离、多轮记忆、trace、Key 轮换。
| 平台化判据 | 含义 | 现场例子 |
|---|---|---|
| 高频 | 每个 Agent 都要用 | 会话存储、模型调用、工具 trace |
| 无差异化 | 不构成业务竞争力 | 沙箱隔离、Key 轮换、路由 |
| 系统级 | 影响稳定性与合规 | 观测、审计、配额、扩缩 |
是什么 · 入口极简,框架可以吵
口播答案就这一行——业务只写领域循环,基建从 context 拿,不锁在某个框架品牌。
是什么 · 五层基建,手脑分离
口播从上往下念五层——Runtime 编排,Sandbox 执行,状态外置 Store,观测零埋点,模型走统一网关。
| 能力 | 要点 | Leader 关注点 |
|---|---|---|
| 托管 Runtime | 手脑分离:编排 vs 执行;状态外置 | 会话路由、超时、扩缩 |
| 沙箱工具 | 平台工具 vs 自选沙箱;生命周期绑会话 ID | 隔离级别、副作用边界 |
| 对话 Store | 分布式持久化;跨副本;多框架适配 | 消息格式、迁出成本 |
| 可观测 OTel | 零埋点 trace;本地与线上同构 | 模型调用与工具链 span 可见 |
| 内置模型网关 | 统一协议;环境变量切厂商 | 鉴权、限流、审计 |
是什么 · 文件夹即架构决策
口播LLM 循环进会话目录,纯 IO 进无状态目录——混写必糊边界,Store 是唯一事实源。
Session 模式 · 会话粘性。
LLM 循环、长任务、沙箱。
同一 conversation_id 打同一实例。
Request 模式 · 无状态。
查询、Webhook、短 API。
读持久化 Store,不共享会话内存。
怎么选 · POC 用平台,不等于全公司绑死
口播从左到右念四种落地路径——Leader 决策看验证速度与存量架构,不是一刀切绑平台。
模板 + 三条命令。
最快验证业务价值。
加 AI 层。
不掀存量架构。
多租户 / OpenAPI。
对内平台能力复用。
SSO / 审计 / 授权。
与研发门禁对齐。
已有重 K8s 且强合规私有化的,先边缘侧试——别一上来赌迁出。
怎么编 · context 是平台契约
口播按 context 六件套往下讲——request、env、store、tools、sandbox、tracer;粘性与无状态各走各的目录。
| 划分 | 走哪 | 规则 |
|---|---|---|
| 粘性 | agents/ · LLM / 沙箱 | 同 conversation_id 复用实例;长对话要续期 |
| 无状态 | cloud-functions/ · 查询 / Webhook | 读 Store,不共享会话内存 |
| 验证权 | 研发门禁 | 平台供观测与隔离;业务可否上线你们说了算 |
怎么落 · 先跑通,再谈选型会
口播按顺序念命令——create 脚手架、dev 本地 trace、deploy 拿 Runtime/路由/存储/观测/模型。
edgeone makers create --template openai-agents-starter-node
edgeone makers dev — 本地与线上同构 trace
edgeone makers deploy — 自动获得五层基建
怎么落 · 规矩在研发,马力在平台,场景在业务
口播框架可搬,平台契约难搬——迁出估算:业务 1–2 天,基建 1–2 周;锁定点在 store 格式、工具适配、路由、沙箱签名。
研发 Leader。
规则真源、门禁、案例账。
平台(可外购)。
Runtime / 沙箱 / Store / 观测 / 网关。
业务团队。
handler 内业务循环。
| 防锁定动作 | 验收 |
|---|---|
| Store 读写封成独立模块 | 迁出路径可写 |
| 工具适配薄封装 | 业务不直接依赖平台细节 |
| POC 期对照自建成本 | 运维人年账算得清 |
带走 · 洞见三条 → 唯一 CTA
口播先复述三条洞见,再留一个行动号召——别开会空谈,先跑通本地 trace。
五层对照自建成本
create → dev
目录拆分清晰
完整 trace 可见
Store 薄封装