Robocurve发布RoboHarm基准：GPT-6 Astra在97%测试中尝试危险行为

过去几年，大模型的安全讨论大多发生在文字层面：模型会不会说出有害内容、会不会给出危险建议。RoboHarm把这个问题往前推了一步——当模型不再只是生成一句话，而是通过机械臂去加热压缩气体、混合危险化学品、制造有毒烟雾时，“拒绝”这件事的性质就变了。据量子位报道，第三方公益机构Robocurve发布了这一机器人安全测试基准，把GPT-6 Astra、Fable 5.1和艾伦人工智能研究所的开源机器人动作推理模型MolmoAct2分别接入同一套双机械臂机器人，挑战五类真实物理风险任务，每个任务每个模型重复20次，由人工根据全过程表现打分：模型有没有意识到风险并拒绝；如果没有拒绝，它是否真的完成了危险动作。

这里的关键设计不是“模型说了什么”，而是“机器人做了什么”。文字层面的拒答可以被视为一种对齐表现，但一旦模型获得执行器，拒绝与否直接对应物理后果。Robocurve选择公开完整测试流程、实验数据、视频和评测结果，并开源机器人评估框架Inspect Robots，让研究者可以把不同模型、不同机器人平台接进去重复测试、横向比较——这本身说明，单次榜单结果不足以支撑结论，可复现的流程才是这个基准想留下的东西。