Agent 上线别从搭沙箱开始——平台化基建该买就买
现场记录 · 腾讯云架构师城市沙龙·深圳 2026-07-18
分享:牛赞(腾讯云 EdgeOne 高级研发)·《开箱即用的 AI Agent 平台 - EdgeOne Makers Agents》
角色视角:老李 · 架构师 / 研发 Leader —— 研发 Harness 定规矩,运行时基建别每个业务重复造
封面:会说话不够,会动手还得有底座
胶水工程,别让业务团队买单。


前两场解决「纪律与编制」;这场解决「跑起来谁供沙箱、记忆、观测」。现场一刀:生产难点不在业务逻辑,在外围基础设施。 幻灯片标 30 万+ 开发者选择 Makers。
老李的定位:研发体系负责 Spec/Rule/验证权;Runtime / 沙箱 / Store / 观测 / 模型网关——高频、无差异、系统级的,优先平台化,好让业务方专注领域逻辑。

一、痛点:Demo 三天,上线两周在搓胶水
最耗人的往往不是 Prompt。


客服 Agent 常见路径:业务代码三天完,上线前卡在沙箱隔离、多轮记忆、trace、Key 轮换。这类能力符合平台化判据——高频、无差异化、系统级。
入口极简:单一 handler(context),不绑死某一 SDK。框架可以吵;胶水道具不该每个业务线付一遍。
二、是什么:五大能力 + 两种目录
文件夹即架构决策。




| 能力 | 要点 |
|---|---|
| 托管运行时 | 手脑分离:Runtime 编排,Sandbox 执行;状态外置 Store |
| 沙箱工具 | 平台工具 vs 自选沙箱;生命周期绑会话 ID |
| 对话存储 | 分布式 Store,跨副本;多框架适配 |
| 可观测 | 零埋点 OTel;本地与线上同构 |
| 内置模型 | 统一网关;环境变量切厂商 |
| 目录 | 模式 | 用途 |
|---|---|---|
agents/ |
Session,会话粘性 | LLM 循环、长任务、沙箱 |
cloud-functions/ |
Request,无状态 | 查询、Webhook、短 API |
小结:Web 与 Agent 同仓同域;契约锁在 context,不锁在某个框架品牌。
三、为什么用:四种场景,别拿错刀
POC 用平台,不等于全公司绑死。



| 场景 | 用法 | Leader 决策 |
|---|---|---|
| 对外新建 SaaS Agent | 模板 + 三条命令 | 最快验证业务价值 |
| 已有网站接入 | 加 AI 层 | 不掀存量架构 |
| 建站平台基座 | 多租户 / OpenAPI | 对内平台能力复用 |
| 企业内落地 | SSO / 审计 / 授权 | 与研发门禁对齐 |
已有重 K8s 且强合规私有化的,先边缘侧试;别一上来赌迁出。
四、架构:context 是平台契约
事实源只有一个,别偷读内存。



粘性路由省延迟,也带来并发与空闲回收——长对话要续期策略。无状态函数读持久化 Store,不共享会话内存。
这和研发侧「验证权在人」不冲突:平台提供可观测与隔离,业务可否上线仍由你们的门禁说了算。
五、安装:三条命令摸清水位
先跑通,再谈选型会。


npm i -g edgeone
edgeone makers create --template openai-agents-starter-node
edgeone makers dev
edgeone makers deploy
文档:Makers Agents。部署后自动获得 Runtime、路由、存储、可观测、模型能力。
六、实战:业务 handler 只写领域循环
基建交给平台,领域留给业务。


export default async function handler(context) {
const { request, store, tools, sandbox, tracer, env } = context;
const span = tracer.startSpan('agent-turn');
const history = await store.getMessages();
// 领域逻辑:模型走网关,副作用走 tools/sandbox
await store.addMessage(/* response */);
span.end();
return Response.json({ ok: true });
}
Leader 关注锁定点:store 格式、工具适配、路由配置、沙箱签名。迁出估算:业务 1–2 天,基建 1–2 周——所以 POC 期就要把 Store 读写封成模块。
七、洞见三条(买与建)


洞见 1:平台化判据——高频、无差异、系统级
研发自建第三套 Runtime 前,先算运维人年,再谈「自主可控」面子。
洞见 2:目录即架构,混写必糊边界
LLM 循环进 agents/,纯 IO 进无状态目录;以 Store 为唯一事实源。
洞见 3:零埋点观测是隐性胜负手
本地能跑、线上不可见——平台若已抹平,就别再半套自建。
八、总结与行动
规矩在研发,马力在平台,场景在业务。


| 层级 | 谁负责 | 交付物 |
|---|---|---|
| 纪律与验证权 | 研发 Leader | 规则真源、门禁、案例账 |
| 运行时基建 | 平台(可外购) | Runtime/沙箱/Store/观测/网关 |
| 领域逻辑 | 业务团队 | handler 内业务循环 |
方法论速查表
| 阶段 | 动作 | 验收 |
|---|---|---|
| 选型 | 五层基建对照自建成本 | 账算得清 |
| 脚手架 | create → dev | 15 分钟首条多轮对话 |
| 架构 | 会话目录与无状态目录拆分 | 边界清晰 |
| 观测 | 完整 trace | 工具链可见 |
| 上线 | 配额评估 | 用量有数 |
| 防锁定 | Store 封装独立模块 | 迁出路径可写 |
行动号召: 用 starter 跑通一次本地 trace,再开「自建还是上平台」的会。
现场印证问答
Q1:粘性与无状态怎么划?
LLM/沙箱走会话目录;查询走无状态;未落库状态别跨目录偷读。
Q2:多框架兼容的锁定代价?
框架层可搬,平台契约难搬。POC 期封装 Store。
九、金句提炼
| # | 金句 | 老李怎么用 |
|---|---|---|
| 1 | 生产难点不在业务逻辑,在外围基础设施 | 选型会先列基建清单 |
| 2 | 高频、无差异化、系统级 → 平台化 | 自建 Runtime 前先算运维人年 |
| 3 | 单一入口 handler(context) |
业务只写领域循环 |
| 4 | 手脑分离:Runtime 编排,Sandbox 执行 | 别把执行副作用塞进编排进程 |
| 5 | 目录即架构:agents/ vs cloud-functions/ |
会话态与无状态别混写 |
| 6 | Store 是唯一事实源 | 禁止跨目录偷读内存 |
| 7 | 框架可搬,平台契约难搬 | POC 期封装 Store 读写 |
| 8 | 规矩在研发,马力在平台,场景在业务 | 三层分工写进架构原则 |
十、概念与工具速查
| 概念 / 工具 | 完整定义(简述) | 常见种类 / 同类工具 |
|---|---|---|
| Agent Runtime | 托管 Agent 循环的执行环境:会话路由、超时、扩缩、与工具/记忆对接 | 云托管:EdgeOne Makers、各类 Serverless Agent 宿主;自建:K8s + 自研循环 |
| Sandbox | 隔离执行浏览器/代码/Shell/文件操作的沙箱,降低 Agent「乱动」风险 | 云沙箱:E2B、Firecracker microVM、平台内置 sandbox;本地:Docker 隔离 |
| 对话 Store / Memory | 会话级消息与状态的持久化存储,支撑多轮与跨实例恢复 | 框架适配:LangGraph checkpointer、Mem0;基础设施:Redis、向量库、对象存储 |
| 模型网关 AI Gateway | 统一协议访问多厂商模型,集中鉴权、限流、审计与切流 | 开源/云:LiteLLM、Kong AI、云厂商模型网关;协议常见 OpenAI-compatible API |
| OpenTelemetry(OTel) | CNCF 可观测标准,统一 trace/metrics/logs 采集与导出 | 后端:Jaeger、Tempo、Zipkin、云 APM;Agent 场景看模型调用与工具链 span |
| 会话粘性路由 | 同一 conversation_id 打到同一实例,复用内存上下文与沙箱连接 |
同类:有状态会话亲和;对比:纯无状态每次新实例 |
| Agent 框架 | 提供循环、工具调用、状态机的开发库 | Claude Agents / OpenAI Agents / LangGraph / CrewAI / DeepAgents 等;选型看状态模型与生态 |
| Edge Function / Cloud Function | 边缘或云函数形态的短生命周期计算;现场控制台与 cloud-functions/ 目录对应无状态逻辑 |
AWS Lambda、Cloudflare Workers、腾讯云 SCF、边缘函数产品线 |
| BFF | Backend for Frontend,为前端聚合的后端层;Web+Agent 同仓时常顺带出现 | 自建 Node/Go BFF;或由平台同域路由替代部分胶水 |
| SSO / 审计 | 企业内落地常见:统一登录与操作审计 | IdP:OIDC/SAML(企业微信、Azure AD 等);审计:操作日志 + 合规导出 |
| 平台锁定点 | 迁出时难替换的部分:消息格式、工具签名、路由配置、沙箱 API | 缓解:Store/工具适配层自研薄封装;业务逻辑不直接依赖平台细节 |
十一、小结:模型之上的工程与架构
怎么理解这场。 这里的「模型之上」是运行时与平台契约:沙箱、会话存储、可观测、模型网关属于高频无差异基建,不该让每个业务线重复交税。架构上用 handler(context) 收口,用目录区分会话态与无状态,用 Store 做唯一事实源——框架可以换,平台边界要算清楚。研发定规矩与验证权,平台供马力,业务只写领域循环。
收获提炼。
- 平台化判据:高频、无差异、系统级——先算运维人年再谈自建 Runtime。
- 目录即架构:会话循环与无状态 IO 必须拆开。
- 本地与线上同构的 trace,是 Agent 上线的隐性胜负手。
- POC 期封装 Store/工具适配,降低「框架可搬、契约难搬」的锁定成本。

现场照片:
images/3/raw/raw_*.png(原图全量嵌入正文)
文档:https://pages.edgeone.ai/zh/document/agents