← 返回目录 浏览器全选正文区可复制到微信公众号;图片为公网链接,粘贴后可正常显示。

Agent 上线别从搭沙箱开始——平台化基建该买就买

腾讯云架构师城市沙龙 · 深圳 · 2026-07-18
牛赞 · 腾讯云 EdgeOne
现场照片 21 张 · Mermaid 图 3 张 · 托管于 _shared/718/3/

现场记录 · 腾讯云架构师城市沙龙·深圳 2026-07-18
分享:牛赞(腾讯云 EdgeOne 高级研发)·《开箱即用的 AI Agent 平台 - EdgeOne Makers Agents》
角色视角:老李 · 架构师 / 研发 Leader —— 研发 Harness 定规矩,运行时基建别每个业务重复造


封面:会说话不够,会动手还得有底座

胶水工程,别让业务团队买单。

现场原图 raw_01

现场原图 raw_02

前两场解决「纪律与编制」;这场解决「跑起来谁供沙箱、记忆、观测」。现场一刀:生产难点不在业务逻辑,在外围基础设施。 幻灯片标 30 万+ 开发者选择 Makers。

老李的定位:研发体系负责 Spec/Rule/验证权;Runtime / 沙箱 / Store / 观测 / 模型网关——高频、无差异、系统级的,优先平台化,好让业务方专注领域逻辑。

flowchart 示意图


一、痛点:Demo 三天,上线两周在搓胶水

最耗人的往往不是 Prompt。

现场原图 raw_03

现场原图 raw_04

客服 Agent 常见路径:业务代码三天完,上线前卡在沙箱隔离、多轮记忆、trace、Key 轮换。这类能力符合平台化判据——高频、无差异化、系统级。

入口极简:单一 handler(context),不绑死某一 SDK。框架可以吵;胶水道具不该每个业务线付一遍。


二、是什么:五大能力 + 两种目录

文件夹即架构决策。

现场原图 raw_05

现场原图 raw_06

现场原图 raw_07

现场原图 raw_08

能力 要点
托管运行时 手脑分离:Runtime 编排,Sandbox 执行;状态外置 Store
沙箱工具 平台工具 vs 自选沙箱;生命周期绑会话 ID
对话存储 分布式 Store,跨副本;多框架适配
可观测 零埋点 OTel;本地与线上同构
内置模型 统一网关;环境变量切厂商
目录 模式 用途
agents/ Session,会话粘性 LLM 循环、长任务、沙箱
cloud-functions/ Request,无状态 查询、Webhook、短 API

小结:Web 与 Agent 同仓同域;契约锁在 context,不锁在某个框架品牌。


三、为什么用:四种场景,别拿错刀

POC 用平台,不等于全公司绑死。

现场原图 raw_09

现场原图 raw_10

现场原图 raw_11

场景 用法 Leader 决策
对外新建 SaaS Agent 模板 + 三条命令 最快验证业务价值
已有网站接入 加 AI 层 不掀存量架构
建站平台基座 多租户 / OpenAPI 对内平台能力复用
企业内落地 SSO / 审计 / 授权 与研发门禁对齐

已有重 K8s 且强合规私有化的,先边缘侧试;别一上来赌迁出。


四、架构:context 是平台契约

事实源只有一个,别偷读内存。

现场原图 raw_12

现场原图 raw_13

flowchart 示意图

粘性路由省延迟,也带来并发与空闲回收——长对话要续期策略。无状态函数读持久化 Store,不共享会话内存。

这和研发侧「验证权在人」不冲突:平台提供可观测与隔离,业务可否上线仍由你们的门禁说了算。


五、安装:三条命令摸清水位

先跑通,再谈选型会。

现场原图 raw_14

现场原图 raw_15

npm i -g edgeone
edgeone makers create --template openai-agents-starter-node
edgeone makers dev
edgeone makers deploy

文档:Makers Agents。部署后自动获得 Runtime、路由、存储、可观测、模型能力。


六、实战:业务 handler 只写领域循环

基建交给平台,领域留给业务。

现场原图 raw_16

现场原图 raw_17

export default async function handler(context) {
  const { request, store, tools, sandbox, tracer, env } = context;
  const span = tracer.startSpan('agent-turn');
  const history = await store.getMessages();
  // 领域逻辑:模型走网关,副作用走 tools/sandbox
  await store.addMessage(/* response */);
  span.end();
  return Response.json({ ok: true });
}

Leader 关注锁定点:store 格式、工具适配、路由配置、沙箱签名。迁出估算:业务 1–2 天,基建 1–2 周——所以 POC 期就要把 Store 读写封成模块。


七、洞见三条(买与建)

现场原图 raw_18

现场原图 raw_19

洞见 1:平台化判据——高频、无差异、系统级

研发自建第三套 Runtime 前,先算运维人年,再谈「自主可控」面子。

洞见 2:目录即架构,混写必糊边界

LLM 循环进 agents/,纯 IO 进无状态目录;以 Store 为唯一事实源。

洞见 3:零埋点观测是隐性胜负手

本地能跑、线上不可见——平台若已抹平,就别再半套自建。


八、总结与行动

规矩在研发,马力在平台,场景在业务。

现场原图 raw_20

现场原图 raw_21

层级 谁负责 交付物
纪律与验证权 研发 Leader 规则真源、门禁、案例账
运行时基建 平台(可外购) Runtime/沙箱/Store/观测/网关
领域逻辑 业务团队 handler 内业务循环

方法论速查表

阶段 动作 验收
选型 五层基建对照自建成本 账算得清
脚手架 create → dev 15 分钟首条多轮对话
架构 会话目录与无状态目录拆分 边界清晰
观测 完整 trace 工具链可见
上线 配额评估 用量有数
防锁定 Store 封装独立模块 迁出路径可写

行动号召: 用 starter 跑通一次本地 trace,再开「自建还是上平台」的会。


现场印证问答

Q1:粘性与无状态怎么划?
LLM/沙箱走会话目录;查询走无状态;未落库状态别跨目录偷读。

Q2:多框架兼容的锁定代价?
框架层可搬,平台契约难搬。POC 期封装 Store。


九、金句提炼

# 金句 老李怎么用
1 生产难点不在业务逻辑,在外围基础设施 选型会先列基建清单
2 高频、无差异化、系统级 → 平台化 自建 Runtime 前先算运维人年
3 单一入口 handler(context) 业务只写领域循环
4 手脑分离:Runtime 编排,Sandbox 执行 别把执行副作用塞进编排进程
5 目录即架构:agents/ vs cloud-functions/ 会话态与无状态别混写
6 Store 是唯一事实源 禁止跨目录偷读内存
7 框架可搬,平台契约难搬 POC 期封装 Store 读写
8 规矩在研发,马力在平台,场景在业务 三层分工写进架构原则

十、概念与工具速查

概念 / 工具 完整定义(简述) 常见种类 / 同类工具
Agent Runtime 托管 Agent 循环的执行环境:会话路由、超时、扩缩、与工具/记忆对接 云托管:EdgeOne Makers、各类 Serverless Agent 宿主;自建:K8s + 自研循环
Sandbox 隔离执行浏览器/代码/Shell/文件操作的沙箱,降低 Agent「乱动」风险 云沙箱:E2B、Firecracker microVM、平台内置 sandbox;本地:Docker 隔离
对话 Store / Memory 会话级消息与状态的持久化存储,支撑多轮与跨实例恢复 框架适配:LangGraph checkpointer、Mem0;基础设施:Redis、向量库、对象存储
模型网关 AI Gateway 统一协议访问多厂商模型,集中鉴权、限流、审计与切流 开源/云:LiteLLM、Kong AI、云厂商模型网关;协议常见 OpenAI-compatible API
OpenTelemetry(OTel) CNCF 可观测标准,统一 trace/metrics/logs 采集与导出 后端:Jaeger、Tempo、Zipkin、云 APM;Agent 场景看模型调用与工具链 span
会话粘性路由 同一 conversation_id 打到同一实例,复用内存上下文与沙箱连接 同类:有状态会话亲和;对比:纯无状态每次新实例
Agent 框架 提供循环、工具调用、状态机的开发库 Claude Agents / OpenAI Agents / LangGraph / CrewAI / DeepAgents 等;选型看状态模型与生态
Edge Function / Cloud Function 边缘或云函数形态的短生命周期计算;现场控制台与 cloud-functions/ 目录对应无状态逻辑 AWS Lambda、Cloudflare Workers、腾讯云 SCF、边缘函数产品线
BFF Backend for Frontend,为前端聚合的后端层;Web+Agent 同仓时常顺带出现 自建 Node/Go BFF;或由平台同域路由替代部分胶水
SSO / 审计 企业内落地常见:统一登录与操作审计 IdP:OIDC/SAML(企业微信、Azure AD 等);审计:操作日志 + 合规导出
平台锁定点 迁出时难替换的部分:消息格式、工具签名、路由配置、沙箱 API 缓解:Store/工具适配层自研薄封装;业务逻辑不直接依赖平台细节

十一、小结:模型之上的工程与架构

怎么理解这场。 这里的「模型之上」是运行时与平台契约:沙箱、会话存储、可观测、模型网关属于高频无差异基建,不该让每个业务线重复交税。架构上用 handler(context) 收口,用目录区分会话态与无状态,用 Store 做唯一事实源——框架可以换,平台边界要算清楚。研发定规矩与验证权,平台供马力,业务只写领域循环。

收获提炼。

  1. 平台化判据:高频、无差异、系统级——先算运维人年再谈自建 Runtime。
  2. 目录即架构:会话循环与无状态 IO 必须拆开。
  3. 本地与线上同构的 trace,是 Agent 上线的隐性胜负手。
  4. POC 期封装 Store/工具适配,降低「框架可搬、契约难搬」的锁定成本。

mindmap 示意图

现场照片:images/3/raw/raw_*.png(原图全量嵌入正文)
文档:https://pages.edgeone.ai/zh/document/agents

复制提示:选中上方正文(含表格与图片)→ 复制 → 粘贴到微信公众号编辑器。 若图片未出,确认已部署到 public.joysky.cloud,或稍后在编辑器内重新插入图片 URL。