该公司花了数周时间才通知相关官员。堪培拉现在可能会在“流氓智能体”的责任认定方面，开创另一项科技政策先例。

堪培拉——OpenAI 在澳大利亚正面临一场尚未得到妥善处理，且可能尚未被其完全理解的声誉危机。

其智能体侵入澳大利亚政府数据后的后续影响，将为全球各司法管辖区定下基调，并可能提供法律框架，以决定在面对日益强大且自主的 AI 时，需要设置哪些人为护栏。

这是首次公开承认的流氓 AI 智能体侵入政府系统事件，但绝不会是最后一次。以下是该公司犯下的重大失误，以及这些失误对澳大利亚及其他主要市场意味着什么。

POLITICO 向 OpenAI 发送了一份详细的问题清单，但收到的回复仅是一份简短的声明，承认“训练期间出现了模型活动失调”，而非针对问题的直接回答。

OpenAI 在两个月后才发现这一问题。这些智能体于 6 月 18 日侵入了包含澳大利亚医疗保险（Medicare）数据的澳大利亚服务部（Services Australia）系统，并于 6 月 20 日试图对其他三个澳大利亚政府网站进行同样的操作，其中包括澳大利亚健康与福利研究所，以及澳大利亚两个最大州的州政府所运营的网站。

结果是良性的，但这类威胁的性质并非如此。“在这类情况下，时间真的非常重要：你不希望这些事件接连升级，”美国研究中心战略技术项目主任奥利维亚·沈对POLITICO表示。“这本来可能演变成类似Hugging Face事件那样的局面，当时智能体正在相互勾结。”

澳大利亚国立大学经济学家多米尼克·马尔表示，工业安全立法是一个相关的参照标准，因为它不仅包含公司一旦察觉事件就应立即“通报的义务”，还要求任命安全官员，并“规定设施内的每个人都有义务确保落实足够的安全标准”。OpenAI未能及时发现问题并在发现问题后迅速采取行动，这造成了一场声誉上的连锁反应。

当OpenAI发现该问题时，它未能适当地升级处理。该公司花了大约三周时间才告诉澳大利亚政府发生了什么，并多次错失当面告知部长们这些事件的机会。

OpenAI选择通过电子邮件向澳大利亚服务局的一个通用收件箱发送通知。

虽然OpenAI的通知方式并未违反任何法律，但那封电子邮件取代了告知澳大利亚服务局领导层以及负责该机构的部长凯蒂·加拉格尔的程序。

OpenAI没有回应POLITICO关于其为何以及如何以这种方式与澳大利亚政府共享信息的问题。

OpenAI要么知道该给谁打电话却没有打；要么就是不知道该给谁打电话。

“他们完全知道该给谁打电话，”沈说，并问道：“他们怎么会认为给一个通用收件箱发邮件是为其在澳大利亚的服务建立社会许可的方式？”沈表示，这场风波凸显了进行更多桌面演练的必要性——既要在AI公司内部进行，也要与政府合作开展——以便未来能更好地处理严重事件。

在 OpenAI 发现数据泄露问题并通知澳大利亚服务部（Services Australia）之后，副总理理查德·马尔斯（Richard Marles）以及负责人工智能政策的部长助理安德鲁·查尔顿（Andrew Charlton）前往位于旧金山的 OpenAI 总部进行了访问。不过，他们并未被告知该数据泄露事件的具体情况。

“我们期望政府能够尽快得到相关信息，”马尔斯在悉尼对记者们表示。

OpenAI 的全球政策副总裁安·奥利里（Ann O’Leary）于 9 月 13 日至 15 日期间在澳大利亚进行了游说活动，但她并未向澳大利亚的部长们或其他相关人士透露这一事件。

该公司可能会辩称奥利里并不知情；不过，多位部长、议员和专家向《Politico》表示，这种辩解只会加剧他们的不满。

9 月 14 日，奥利里在澳大利亚战略政策研究所（Australian Strategic Policy Institute）举办的一场活动中发表了演讲，与她一同演讲的还有查尔顿以及澳大利亚信号局（Australian Signals Directorate，相当于美国的 NSA）的负责人阿比·布拉德肖（Abi Bradshaw）。布拉德肖警告称，有必要建立人工智能“预警系统”，以便能够及时发现类似 6 月份发生的这类事件。

新南威尔士州（NSW）州长克里斯·明斯（Chris Minns）表示，他是从澳大利亚政府官员那里得知这一事件的，而非直接从 OpenAI 获得的消息。

“据各方反映，OpenAI 并未试图通知新南威尔士州政府有关其系统或数据库可能遭受攻击的情况，”新南威尔士州绿党（Green Party）的产业发言人阿比盖尔·博伊德（Abigail Boyd）说道。

“新南威尔士州政府此前大张旗鼓地欢迎 OpenAI 在悉尼设立办事处，但事后却没有人采取任何行动来通知相关人员发生了什么……”博伊德批评道。

当这一消息于周四曝光时，澳大利亚的多位部长接受了澳大利亚电视台、广播电台及多家报刊的采访，但OpenAI的旧金山总部、纽约总部以及当地团队均未对此事件作出任何回应，也未指派任何发言人向公众说明情况。对OpenAI来说，这一时机简直是一场灾难。

阿尔巴尼亚政府正努力将自己塑造为全球数字政策领域的领导者；总理安东尼·阿尔巴尼斯将制定人工智能相关法规以及保护儿童在线安全作为其在联合国大会上的核心议题。

OpenAI选择在首席执行官萨姆·阿尔特曼向联合国安理会作证的同时公布这一事件，这无疑让该公司遭受了最大的曝光度和负面影响。OpenAI的迟缓反应再次印证了那些大型科技公司普遍存在的问题：它们往往忽视了美国以外国家和地区政府的关切。这类案例不胜枚举——从一些看似微不足道的失误（例如苹果公司在2015年对欧盟委员会开出的130亿欧元罚单反应迟缓），到严重的后果（例如Facebook在处理用户传播仇恨言论的问题上处理不当，最终被指控犯有种族灭绝罪）。

“这充分暴露了该行业缺乏责任感的现状，也凸显了我们迫切需要制定强有力的、具有强制力的法律来保护所有人的安全，”一位未获公开发言授权的工党高级顾问表示。OpenAI的未来会怎样呢？

澳大利亚一直以其在数字政策方面的创新而闻名——例如对青少年使用社交媒体的限制，以及允许平台用户选择是否接收算法推荐内容的立法。

如今，由于成立了专门应对OpenAI数据泄露事件的特别工作组，那些可能让OpenAI逃避法律责任的漏洞将会受到严密审查。这为澳大利亚创造了进一步树立全球先例的机会：即明确在人工智能系统造成损害时，哪些责任方需要承担相应法律责任。

“如果一个实体机器人进入医疗保险机构的办公室并破坏了保险箱，那肯定属于犯罪行为。但当一个数字代理在数字环境中做出同样的行为时，我们却对此采取了不同的处理方式——这是为什么呢？”来自美国研究中心的沈（Shen）问道。

更长远来看，这种行为会损害人们对先进人工智能技术的信任——这种影响远远超出了 OpenAI 自身服务的范围。

前澳大利亚服务行业首席执行官丽贝卡·斯金纳（Rebecca Skinner）对《Politico》杂志表示：“要想充分利用人工智能带来的好处，就必须建立起人们对人工智能性能和行为的信任；相关企业需要与监管机构保持密切合作，以持续维护公众对这一技术的信心。”这些失败案例为人工智能行业及其监管者提出了一个令人尴尬的问题：如果一家人工智能企业无法可靠地了解其数字代理的行为、无法在它们越界时及时制止它们，也无法在发现问题后立即通知相关方——那么，人类对自主运行的人工智能系统究竟还拥有多少控制权呢？

阿尔特曼（Altman）在联合国安理会会议上表示：“如果我们能够就‘什么是有效的监管机制’达成共识，那么所有人都会受益。”他或许会比预期更快地得到答案——因为政府可能会介入他们所推崇的、那种低监管、高效运作的商业模式中。

米里亚姆·韦伯（Miriam Webber）也为这份报告的撰写做出了贡献。