返回信息流
新闻事件
InfoQ
1 个来源

阿里云发布 Agent Sandbox,为智能体提供可控运行环境

阿里云在云栖大会上发布智能体沙箱 Agent Sandbox,将其定位为面向智能的新型算力形态,为每个 Agent 即时创造可控世界。该产品支持快速创建、休眠恢复和 MicroVM 隔离,并原生兼容 Kubernetes API。圆桌讨论中,阿里云、AMD、金山办公和前程无忧的嘉宾探讨了 Agent 从 Demo 到生产级稳定运行所面临的挑战。

SynthePulse Insight · AI 深度解读会员精读

Agent 走向生产,为什么阿里云要把沙箱重新定义为一种算力形态

版本 1 · 1 个来源

在云栖大会上,阿里云发布智能体沙箱 Agent Sandbox,并称其为“面向智能的新型算力形态”。当 Agent 从 Demo 进入生产,动态生成的代码、不可预测的任务时长和间歇式执行,正在把运行环境推到台前。

  • 阿里云在云栖大会技术主论坛发布 Agent Sandbox,由研发副总裁吴结生发布,定义为“面向智能的新型算力形态”。
  • 阿里云称 Agent Sandbox 为每个 Agent 即时创造“可控的世界”,包含完整运行时,并管理身份、网络和数据,任务停止后保留状态。
  • 阿里云公布的数据称,Agent Sandbox 每分钟可创建 10 万个沙箱,冷启动 P99 小于 180 毫秒,热启动 P99 小于 20 毫秒,深休眠唤醒 P99 低于 600 毫秒。
展开章节目录沙箱不是新概念,但 Agent 让它换了问题

沙箱不是新概念,但 Agent 让它换了问题

Docker 已经很成熟,Kubernetes 也用了十多年,为什么 Agent 还需要 Sandbox?阿里云在云栖大会技术主论坛上给出了自己的答案:发布智能体沙箱 Agent Sandbox,由阿里云智能集团研发副总裁、弹性计算产品线负责人吴结生发布,并将其定义为“面向智能的新型算力形态”。

阿里云给出的说法是,为每个 Agent 即时创造一个“可控的世界”。这个世界里要有完整的运行时,也要管住身份、网络和数据,任务停下来以后还能保留状态。

按阿里云的设计,每个 Sandbox 可以以 Kubernetes Pod 为载体,再运行在 MicroVM 隔离环境里,把风险尽量收在单个执行环境内,且 Agent Sandbox 原生兼容 Kubernetes API。这意味着它并不是要推倒容器体系,而是在既有 Kubernetes 生态上叠加一层面向 Agent 的运行时。

Agent 的负载形态变了,调度方式也得跟着变

阿里云智能集团资深技术专家杨皓然在圆桌对谈中提到,过去企业里的负载大致可以分成两类:长期运行的微服务,以及有明确生命周期的离线 Job。这两类负载经过多年发展,已经有了比较成熟的调度和治理体系。

但 Agent 的运行方式明显更随机。它下一步调用什么工具、要跑多少轮,很大程度上由模型动态决定;大量 Agent 还是间歇式执行,任务过程中会等待模型推理,也会等待 Subagent 返回结果。

等的时候资源怎么办?如果 CPU 和内存一直占着,用户就在为等待时间付费;直接把环境销毁,任务状态又没了。原来更适合长时运行实例的调度方式,到这里就显得不那么合适。

所以阿里云这次在 Agent Sandbox 里同时做了快速创建和休眠恢复。按其公布的数据,Agent Sandbox 每分钟可创建 10 万个沙箱,基于模板创建与冷启动 P99 小于 180 毫秒;资源池预热后,热启动 P99 小于 20 毫秒;深休眠唤醒 P99 低于 600 毫秒。这些数字均为阿里云单方公布,来源未提供第三方验证。

限时免费

继续阅读完整分析

还有 4 节深入分析和完整结论

加载中

可信度边界

本文基于 InfoQ 对云栖大会圆桌对谈的报道。阿里云公布的每分钟 10 万沙箱、冷启动 P99 小于 180 毫秒、热启动 P99 小于 20 毫秒、深休眠唤醒 P99 低于 600 毫秒等性能数据均为其单方公布,来源未提供第三方验证;前程无忧“单个会员每天相关成本约 1 元”为林自达口述,未说明统计口径与成本构成;金山办公预热沙箱数量曲线为现场展示,未给出完整时间范围与统计条件。Agent Sandbox 作为“继 VM 和容器之后的新算力形态”是阿里云方面的判断,尚非行业共识。

主报道

InfoQ

主报道来源