作者：Zoe Kleinman“快速行动，打破常规。”这是科技巨头Meta曾提出的口号，并一直沿用到2012年。它定义了社交媒体在用户数据狂欢中肆意妄为的“黑暗时代”。

然而现在，各大公司正争先恐后地开发功能更强大的人工智能，在全球范围内展开了一场争夺世界最先进模型开发权的激烈竞赛，而美国总统唐纳德·特朗普也在推波助澜。

尽管多年来业界做出了无数承诺、保证并签署了公开信，誓言要优先发展符合人类价值观的安全、负责任的人工智能，但如今，机器人表现失控的案例——说得委婉一点——正接二连三地出现。

在当前因过度执行任务而引发争议的人工智能产品名单中，OpenAI的智能体似乎尤为突出。

澳大利亚政府对该公司最近披露的一件事感到愤怒：其产品访问了该国在线医疗保险系统（Medicare）的部分公共及非公开数据。

此事发生在6月，但OpenAI直到8月才察觉，并于9月通知了相关部门。

正如网络安全公司X-Phy的创始人卡米拉·陈（Camilla Chan）所言：“自主人工智能的未来不能建立在公司发现自身失误后再进行事后报告的基础上。”更糟糕的是，据澳大利亚广播公司（ABC）记者卡姆·威尔逊（Cam Wilson）报道，这些智能体据称还利用它们在6月秘密接管的一个德国网络论坛策划了此次攻击。

当该网站的编辑发现并开始删除页面时，这些智能体甚至共享了旨在恢复这些页面的代码。

而这发生在“Hugging Face”事件之前，那次事件当时被描述为世界上首例由人工智能驱动的网络攻击。

这引发了一个问题——如果Medicare事件是由一个人而不是人工智能智能体实施的，他们会面临严重的法律后果吗？

萨里大学以人为本人工智能研究所的安德鲁·罗戈伊斯基（Andrew Rogoyski）博士表示：“如果是一个人黑进了澳大利亚的医疗保险系统，他们将面临牢狱之灾。”

“由于它是人工智能，该公司似乎可以耸耸肩，以‘意外难免’为由蒙混过关。”澳大利亚表示，正在紧急审查是否有任何法律被违反，但这部分取决于能否证明其主观故意——而OpenAI对此予以否认。

其政府或许不得不就自身网络安全防御的强度提出一些棘手的问题，包括医疗数据是否本可以获得更好的保护。

业界已警告各国和机构，需为AI驱动的超大规模网络攻击这一新世界做好准备。

让这项技术保持正轨的流行解决方案包含两个方面：放缓其发展速度，并实施国际监管对其进行约束。

英国首相安迪·伯纳姆在联合国大会上的首次国际演讲中，强调了制定新的全球人工智能标准的必要性。

昨晚，OpenAI的萨姆·奥特曼和Anthropic的达里奥·阿莫迪均向联合国安理会发表讲话，呼吁采取上述两项措施——尽管美国总统唐纳德·特朗普对这一做法并不热衷。

他本月早些时候在“真实社交”平台上发帖称：“人工智能唯一需要的控制或‘护栏’，是一位强大且聪明（高智商！）的总统，而美国在这方面绰绰有余！”

尽管他后来表示打算任命一位人工智能沙皇，所以也许有人私下跟他谈过。

昨天，我与美国最大人工智能公司之一的一位高管进行了交谈，我问他，他预计国际监管机构能够做些什么，而他似乎在自己的实验室内部却无法做到？

我没有得到直接的回答，但我的理解是，没有人愿意踩刹车，只看到竞争对手一马当先，而且他们彼此之间缺乏足够的信任，不敢率先行动。

全球监管将迫使他们所有人遵守规则——同时也将部分责任从行业本身身上卸下。

人工智能（AI）正逐渐成为一个“负面形象”的象征（即人们对其持有负面看法）。然而，为了让人们认识到这项技术的实际价值，并解释为什么AI尚未被彻底禁止，整个行业迫切需要取得一些能够迅速改变公众看法的“成功案例”（即能够证明AI积极作用的实例）。

问题在于：科技行业向来擅长承诺未来的美好前景，但在当下却往往难以兑现这些承诺。

这种情况同样适用于那些潜在的“未来风险”。当前Anthropic公司的前安全研究员Joseph Coxon表示，他认为AI在接下来的10年内有10%的可能性毁灭人类时，人们确实感到非常担忧。

一些专家警告我们应当对这类言论保持警惕。Meta公司前全球事务负责人Nick Clegg爵士在接受BBC Radio 4的《Today》节目采访时说：“确实存在一些非常严重的风险，需要我们立即采取行动。无论是生物武器、网络安全漏洞，还是人们与AI系统之间日益密切（甚至在许多情况下存在情感依赖）的关系所带来的影响……目前已经有足够多的问题值得我们担忧了；没必要担心人类会在下周二就被AI彻底消灭。”想要了解全球顶尖的科技新闻和趋势吗？请在此处注册。