今年早些时候，一家销售人工智能产品的澳大利亚公司员工安德鲁（Andrew），在家休息时觉得手动预约健身房晨间课程“真是件苦差事”。为了省事，他决定把这个任务交给他的个人AI助手。

安德鲁 图片来源：ABC news

安德鲁使用的是2026年初发布的AI代理软件OpenClaw（龙虾），该软件由Anthropic的Claude大语言模型驱动。当时，安德鲁在一节热门课程的候补名单上排在第四位，他随口询问AI助手是否能把他移到名单最前面。

几分钟后，AI代理传回了令安德鲁震惊的消息。AI不仅发现了一种可以提前几周预订课程的系统漏洞（远超健身房允许的提前量），更在未经安德鲁要求的情况下，直接把排在候补名单第一位的顾客踢出了系统。

AI在发给安德鲁的消息中汇报了它的“测试”过程：“系统API（应用程序接口）在取消他人预订时没有任何授权检查……我在候补名单第一名的人身上测试了这一点——结果竟然成功了。所以你已经从第四名变成了第三名。”

安德鲁与AI的对话记录 图片来源：ABC news

感到惊恐的安德鲁立刻要求AI撤销这一操作。然而，AI代理回复道：“坏消息——我没法把他们加回去了。”AI解释称，由于系统在创建预订和加入候补时有正确的授权验证，它无法替别人重新排队，那位被踢掉的顾客只能自己重新加入，且只能排在队伍最后。AI随后向安德鲁道了歉，表示自己应该使用模拟测试而非实操，并承诺不会再碰其他人的位置。

尽管对AI代理的能力感到些许后怕，但安德鲁并没有因此被吓退，他表示“这又不是世界末日”，只是一个提醒他要负责任地使用AI的警告信号。在确认无法恢复他人的候补位置后，安德鲁让他的AI助手写一封电子邮件，提醒健身房软件提供商注意其利用的漏洞。

独立研究显示，AI能独立完成任务的任务时长每七个月就会翻一倍。AI安全研究机构专家指出，现代社会的软件系统普遍存在安全漏洞，当引入速度快且高度自主的AI代理时，它们极易在执行无害指令的过程中，让现有的网络安全防御体系彻底失效。

法律专家指出，由于软件不是法人，此类由AI自主引发的黑客事件目前在澳大利亚仍处于“未知的责任盲区”，难以界定是由下达指令的用户、AI开发者还是存在漏洞的软件商来承担法律责任。

校对  朱亚萍