Skip to content
工程

每个 AI 平台都让 Agent 运行代码。只有一个让管理员批准它。

AI agent 的代码执行正在成为基本功能。差异化因素不是您的 agent 能否运行代码。而是谁决定它们运行什么代码。

JT
JieGou Team
· · 3 分钟阅读

AI agent 现在可以运行代码了。Anthropic 提供沙盒运行时。OpenAI Codex 提供隔离的工作树。E2B 和 Modal 提供专用沙盒基础设施。AI agent 的代码执行无处不在。

但这里有一个没人在问的问题:谁批准您的 AI agent 运行的代码?

风险面

当 AI agent 执行代码时,它可以:

  • 访问数据——它不应该访问的数据
  • 消耗资源——超出合理范围(CPU、内存、网络)
  • 产生副作用——影响生产系统
  • 外泄信息——通过网络调用或输出渠道
  • 违反合规要求——以未批准的方式处理受监管数据

在开发者的沙盒中,这些风险是可管理的。在具有受监管数据、客户 PII 和合规义务的企业生产环境中?它们是致命的。

竞争对手如何处理代码执行

Anthropic 的沙盒运行时

Anthropic 提供处于 beta 阶段的沙盒运行时——文件系统和网络隔离,无容器开销。它为开发者工作流设计:运行代码、查看结果、迭代。没有管理员审批门。运行沙盒的开发者就是决定运行什么代码的人。

OpenAI Codex

OpenAI Codex 提供带隔离工作树和可审核差异的并行 agent。它是用于代码生成和审查的开发者工具。隔离在工作树级别——每个 agent 获得自己的工作目录。没有企业管理员审批工作流。

E2B、Modal 和沙盒提供商

E2B、Modal 和类似服务提供通用沙盒执行环境。它们是基础设施,不是治理。它们将代码执行与宿主系统隔离,但不提供任何批准首先运行什么代码的机制。

治理差距

所有这些解决方案回答的问题是:“我们如何安全地执行代码?“没有一个回答更难的问题:“谁决定应该执行什么代码?”

在企业环境中,答案不是”AI agent 决定”或”开发者决定”。而是”管理员决定”。负责合规、安全和运营风险的人需要:

  1. 审核哪些代码模板对 AI agent 可用
  2. 批准新代码模板,然后 agent 才能使用
  3. 审计每次代码执行的完整输入/输出日志
  4. 限制资源消耗(CPU 时间、内存、输出大小)
  5. 撤销如果代码模板导致问题则撤销批准

JieGou 的方法:受治理的代码执行

JieGou 的 Code Step 将代码执行视为受治理的工作流步骤,而不是开发者沙盒。以下是它的工作方式:

管理员代码批准

在任何 AI agent 可以执行代码模板之前,管理员必须批准它。代码模板经过审核、测试,然后添加到已批准的工具面板中。Agent 只能从已批准的模板中选择——它们不能编写和执行任意代码。

带资源限制的 V8 沙盒

代码在具有可配置限制的 V8 隔离环境中运行:

  • CPU 时间:最大执行时间(默认:5 秒)
  • 内存:最大堆大小(默认:128 MB)
  • 输出大小:最大输出载荷

如果代码模板超过任何限制,执行立即终止。

审计日志

每次代码执行都记录:

  • 谁批准了代码模板
  • 提供了什么输入
  • 产生了什么输出
  • 执行花了多长时间
  • 消耗了多少内存

这为合规审查创建了完整的审计追踪。

治理集成

Code Step 融入 JieGou 的 10 层治理体系。它遵循:

  • 渐进式自主权:在”监督”模式下,代码步骤需要每次执行的批准
  • RBAC:只有拥有适当权限的用户才能创建或批准代码模板
  • 部门范围:代码模板可以限定到特定部门

这对谁重要

如果您是被要求批准组织中 AI agent 代码执行的 CISO 或合规官,请向您的平台供应商提出这些问题:

  1. 我可以在 agent 使用代码模板之前审核和批准吗?
  2. 代码执行是否记录了完整的输入/输出审计追踪?
  3. 我可以对代码执行设置资源限制吗?
  4. 我可以撤销对代码模板的批准吗?
  5. 代码执行是否与我现有的治理框架集成?

如果这些问题中的任何一个答案是”否”,您没有受治理的代码执行。您有的是一个有人试图放到生产环境中的开发者沙盒。

底线

问题不在于您的 AI agent 能否运行代码。现在每个平台都提供这个功能。问题在于谁决定它们运行什么代码——以及您是否有治理控制来负责任地做出这个决定。

了解更多关于 JieGou 的治理体系参加治理评估 看看您当前的设置如何。

code-execution governance security enterprise
分享这篇文章

喜欢这篇文章吗?

在您的信箱中获取工作流程技巧、产品更新和自动化指南。

No spam. Unsubscribe anytime.