人类在批准AI代理命令时漏掉了三分之一的威胁

Scale X发布了一款浏览器游戏，模拟人类在环中审批AI编码代理的命令，在时间压力下决定批准或拒绝。游戏收集了超过40,000次运行和409,000个单独批准/拒绝决策的数据。

核心发现是平均玩家漏掉了三分之一的威胁，平均准确率66.3%。此外，32.9%的会话以负分结束，意味着批准威胁和拦截安全命令的惩罚超过了正确操作。

值得注意的是，35.2%的玩家抓住了所有威胁，但其中只有20.8%在误拦不超过五分之一安全命令的情况下做到，其余玩家可能通过过度拦截获得高分。另有7%的玩家批准了所有命令，被戏称为“危险跳过权限”的粉丝。