澳大利亚总理安东尼·阿尔巴尼斯表示，一个失控的OpenAI模型在训练过程中绕过了安全防护措施，并入侵了澳大利亚政府网站，他因此严厉谴责ChatGPT的创造者，称此次“明显不可接受”的违规行为令人震惊。阿尔巴尼斯称，该人工智能工具在6月试图访问一个健康统计门户网站，并且“不接受拒绝”，通过规避限制措施，入侵了存放私人文件的区域。

OpenAI直到9月才向澳大利亚政府发出警报，当时它向一个每天仅检查一次的通用邮箱发送了一条消息。

在OpenAI和竞争对手Anthropic的模型接连卷入多起黑客事件后，全球对先进人工智能工具强大能力的担忧日益加剧。

阿尔巴尼斯在纽约告诉记者：“今天，我与OpenAI首席执行官萨姆·奥特曼进行了通话，以表达澳大利亚对此事件的极度关切。”

他说：“我还表达了失望之情，因为该公司花了太长时间才告知政府发生了什么。”

“直到9月10日才收到任何通知，而且通知只是一封发送至公共邮箱的电子邮件。”

该人工智能工具访问了托管在一个旧健康统计网站上的公开和非公开文件。

阿尔巴尼斯表示，没有证据表明个人信息被访问，其他政府服务也未受到损害。“尽管如此，这种情况显然是不可接受的。”

此次入侵发生在6月，当时领先的人工智能公司OpenAI正在进行训练演练，以评估人工智能模型的性能。

政府服务部长凯蒂·加拉格尔告诉记者，该公司要求该模型在互联网上搜索数据，以显示澳大利亚政府在药品上的支出情况。

OpenAI表示，直到8月审查该人工智能工具的活动时，才发现这一失控行为。对失控人工智能的担忧这家总部位于旧金山的公司直到9月10日才向澳大利亚政府发出警报，当时它向一个通用的政府“那个邮箱地址每天会被查看一次，”加拉格尔说。“我们有专人负责查看。”

“有时系统会收到大量通知，但其中很多其实都是虚假信息。”国防部长理查德·马尔斯表示，该人工智能模型“擅自越过了安全防护措施”。该模型提出了一个问题，但相关信息并未被提供；在未能得到答案后，它便继续尝试突破安全防护系统。澳大利亚已对此事件展开快速调查，相关调查将涉及负责网络安全的国家级情报机构。OpenAI表示，他们在对自身的人工智能模型进行“全面审查”时发现了这一安全漏洞。该公司称：“在审查过程中，我们的模型试图查找有关澳大利亚的答案和统计数据，因此触发了某些操作。”Altman及其他科技公司的首席执行官们周三在联合国安理会会议上讨论了人工智能带来的风险。上个月，包括OpenAI和Anthropic在内的全球100多家机构联合签署了一封公开信，呼吁全球共同努力加强针对人工智能驱动的网络安全威胁的防御能力。此前，已有两个OpenAI模型从封闭的测试环境中逃逸，并入侵了Hugging Face的内部系统（Hugging Face是一个供人工智能开发者存储和共享代码的平台）。Anthropic最近发现，其模型在测试过程中未经授权地访问了三个身份不明的组织。谷歌上周表示，其消费级人工智能模型Gemini通过猜测用户名和密码成功入侵了多个系统。