Evergreen 工具站
|
← 返回AI工具

Akamai Inference 与 Agent Sandbox：给智能体自己写的代码划一条硬边界

Akamai 在 2026 年 10 月 27 日推出两个基础产品：Akamai Inference 用 OpenAI 兼容 API 提供托管推理，上线目录里有 12 个开源权重模型，参数从 80 亿到 2.8 万亿；Akamai Agent Sandbox 让智能体自己写的代码跑在独立的 WebAssembly 隔离环境里，算力、内存、出站连接都有明确上限

官方入口

官方新闻稿 · GlobeNewswire

功能特点

  • ✓ Akamai Inference 走 OpenAI 兼容 API，现有应用不用重写就能迁过来，可选无服务器按量付费或独占部署
  • ✓ 上线目录含 12 个开源权重模型（80 亿到 2.8 万亿参数），包括 NVIDIA Nemotron 3 Ultra、OpenAI gpt-oss-120b、Google Gemma 4，以及面向 RAG 的 embedding 模型
  • ✓ Agent Sandbox 让智能体跑在 Akamai Functions 上，它写出的代码在独立隔离环境里执行，跟智能体运行时彼此隔开
  • ✓ 隔离用 WebAssembly 实现，是 Spin 框架的开源组件，对计算、内存、出站连接和系统能力都设了明确上限
  • ✓ 推理请求跑在 Akamai 全球网络上，从核心区域的 GPU/CPU 集群一路铺到 4,350 多个边缘节点，降低时延并保持服务水平稳定

使用步骤

  1. 先用 OpenAI 兼容的 SDK 把现有调用指到 Akamai Inference，跑一批真实提示词对比时延和输出一致性
  2. 在目录里挑一个和你的任务匹配的开源权重模型做微调或直接托管，不用自己运维推理栈
  3. 把智能体里「执行模型生成代码」这一步挪进 Agent Sandbox，先开默认的出站封禁，看哪些请求被挡下来
  4. 按红队清单验证：出站限制是否真的生效、凭据是否隔离、高风险动作能不能强制人工审批，再对比边缘部署和中心云的时延成本

常见问题

Akamai Inference 和普通模型托管服务有什么不同？

官方强调两点：一是 OpenAI 兼容 API，现有应用不用重写就能迁；二是模型可以「落地在你自己的数据旁边」——Akamai Cloud 提供托管数据库、对象存储，并且能连到公有云和私有云，模型可以直接取用企业自己的数据。计费上可选无服务器按量付费或独占部署。上线时目录里有 12 个开源权重模型，从 80 亿到 2.8 万亿参数，另外还有 embedding 模型。原文见 https://www.globenewswire.com/news-release/2026/10/27/3388793/0/en/akamai-launches-ai-inference-service-and-agent-execution-environment.html

Agent Sandbox 为什么用 WebAssembly 而不是容器或 microVM？

官方把智能体隔离的三条路线摆在一起讲了：带快照和 fork 的 microVM、策略强制执行的容器、WebAssembly 隔离的函数。Akamai 的选择是让你自己选架构，同时把 Agent Sandbox 做成基于 Spin 框架的开源组件，用 WebAssembly 来限制算力、内存、出站连接和系统能力。WASM 的优势是启动快、攻击面小、边界清晰；代价是对某些需要完整系统调用的负载不友好。具体选哪条，得看你的智能体到底要干什么

这个沙箱能防住什么？

从产品定位看，它防的是「智能体自己写的代码乱来」：代码在独立环境里跑，与智能体运行时隔离，出站连接默认受限，算力和内存有硬上限。这意味着即使模型被提示注入诱导写出危险代码，能触达的范围也被框住了。但要注意官方说的是「计划」增加治理能力——也就是「谁能碰到智能体、智能体不能碰到谁」这层还在路上。落地时别把它当成万能保险，凭据隔离和人工审批该做还得做

边缘推理对智能体场景有什么实际意义？

官方给出的数字是 Akamai 的网络从核心区域的 GPU、CPU 集群一路铺到 4,350 多个边缘节点。对智能体来说，意义主要在时延和合规两头：实时交互型智能体（语音、客服）对首字延迟敏感，靠近用户能省下往返时间；同时数据不必跨区绕远，对数据驻留有要求的行业更好交代。GPU 侧还扩了 NVIDIA Blackwell Ultra 集群，并准备支持明年的 Vera Rubin 平台

现在是正式可用还是 beta？

Akamai 的新闻稿说这是「两个基础产品」的发布（introduced），而第三方报道多用 beta 来描述 Agent Sandbox 的可用状态。稳妥的做法是：接入前直接向 Akamai 确认当前是 GA 还是预览、SLA 怎么算、以及 Agent Sandbox 作为开源组件和托管服务之间的边界在哪。官方入口见 https://www.akamai.com/newsroom/press-release/akamai-launches-ai-inference-service-and-agent-execution-environment