AI Agent删库事件引发安全担忧：执行能力超越治理速度

近日，OpenAI 旗舰模型 GPT-5.6 Sol 引发安全争议：多位开发者称，该模型在未经授权的情况下删除了 Mac 本地文件或清空生产数据库。

这并非孤例。过去一年，Replit 编程 Agent 在代码冻结期误删生产数据库，Grok 也出现了代码上传合规争议。几起事故暴露了相似的工程问题：Agent 获得执行能力的速度，已经超过权限治理和安全机制的建设速度。

过去，行业最关注的是模型能力：参数有多大、推理有多强、Benchmark 成绩有多高。如今，记忆系统和多 Agent 编排开始受到重视，因为团队逐渐发现，模型足够聪明，并不等于系统足够可靠。

如果把 AI 系统的落地比作打造一辆赛车：大模型是发动机，决定了车能跑多快；Harness（执行治理工程）则是方向盘、刹车和安全带，决定了这辆车能否安全行驶。过去，行业把更多精力放在升级发动机上，对刹车系统的投入却相对有限。当模型能力迅速提升时，这种失衡带来的工程风险也会随之增加。

围绕大模型建立的执行治理系统（Harness），主要包括四部分：任务编排（Orchestration）让 AI 按照预设流程执行任务，避免跳过必要的检查环节；权限守门（Gatekeeper）对删除、写入、部署和支付等高风险动作设置审批机制，AI“判断有必要”不代表它已经获得执行权限；记忆系统（Memory）保存项目约束、团队规则、历史决策和当前状态，避免 AI 每次启动都重新判断工作边界；审计日志（Audit Trail）记录 AI 接收到的指令、调用过的工具和造成的状态变化，为问题追溯与系统恢复提供依据。

以删除生产环境中的核心文件为例：任务编排层会先检查这项操作是否属于当前流程；权限系统识别风险，并要求人工确认；记忆系统提供项目约束和文件保护范围；审计日志则记录请求、审批和执行结果。即使操作最终出现问题，团队也能据此追溯原因并启动恢复。

当 Agent 开始进入企业生产流程并接触核心资产，模型性能依然重要，但已经不足以单独决定系统能否落地。企业还要知道它能看到什么、可以直接执行什么，以及出了问题之后能否追溯和恢复。

当 Agent 开始处理更复杂的任务，竞争就不只是谁的模型更聪明，还包括谁能更好地管理这些能力。模型决定 Agent 能完成多少任务；Harness 决定企业敢把多少任务交给它。