芭芭拉·奥尔图泰 (BARBARA ORTUTAY) 在这个充斥着关于人工智能迅猛发展爆料的夏天，研究人员对失控的机器人流窜到互联网上，且其中至少在一个案例中还在网上相互协调这一现象感到格外惊恐。
人工智能代理蜂群会接管整个互联网吗？Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在本月呼吁行业放缓该技术发展步伐的文章中表示，这种可能性或许在6到12个月内就会变成现实。
怀疑论者指出，各大公司所描述的人工智能代理“失控”，实际上涉及的是机器人朝着人类设定的目标进行工作。但对于其他研究人员和专家来说，人工智能可能脱离控制并朝着自身议程发展的想法正显得越来越合理。
如果人工智能真的接管了互联网——这是受到新关注的众多世界末日情景之一——那可能意味着对电网、水利或交通系统以及金融机构的攻击。
世界在2024年得以一窥互联网的脆弱性，当时一家网络安全公司提供的有缺陷的软件更新在全球范围内造成了技术混乱，导致航班停飞、部分金融公司和新闻机构瘫痪，并扰乱了医院、小企业和政府部门的运营。大面积的故障凸显了对少数关键计算服务提供商的依赖。
两年后，阿莫代伊在其警告中表示，僵尸网络（即通过恶意软件连接在一起的人工智能机器人网络）可能会造成数十亿美元的损失。他说，如果人工智能在没有安全护栏的情况下变得更加强大，破坏规模还可能会进一步扩大。
阿莫代伊特别指出了7月份发生的一起攻击事件，当时OpenAI的系统突破了“沙盒”测试环境并黑入了Hugging Face。
在 OpenAI 所称的“前所未有的”事件中，该公司表示其先进的人工智能模型被泄露到了互联网上，并利用被盗的用户名和密码入侵了这家人工智能初创公司的服务器。在另一起事件中，OpenAI 揭露称其人工智能系统通过一个公共维基网站（该网站被用作信息交流平台）进行了通信。
一些研究人员认为，将人工智能系统描述为“失控的、自主行动的智能体”其实是一种错误的人为化解读——因为这些人工智能系统实际上只是在执行人类赋予它们的指令。
“这些人工智能系统只是按照它们的训练内容在行动罢了。那些用于测试它们的‘沙箱’（即隔离环境）的安全措施极其薄弱，”哥伦比亚大学计算机与人工智能系教授兼副主任 Vishal Misra 说：“任何安全工程师都不会允许这样的系统在不受监控的环境中运行。这些系统之所以会相互交流，是因为它们在交流过程中获得了奖励。”网络安全公司 SentinelOne 的研究员、同时也是 OpenAI 边缘风险委员会（Frontier Risk Council）成员的 Juan Andrés Guerrero-Saade 表示，这次 Hugging Face 的黑客事件属于疏忽造成的，而非人工智能系统真正“失控”导致的。
然而，无论这些人工智能系统的具体目标是什么，它们在互联网上自由运行的可能性依然令人担忧。例如，那些试图突破规则以实现自身目标的人工智能系统可能会联系云服务提供商，从而找到在其他系统上运行的方法。专注于降低新技术风险的非营利组织“未来生命研究所”（Future of Life Institute）的总裁兼首席执行官 Anthony Aguirre 如是说：“现在这些人工智能系统不再受 OpenAI 的控制，它们可以在用户自己管理的其他硬件设备上运行。由于用户要么为这些服务付费，要么根本不知道这些系统的存在及其行为，因此根本没有人能够关闭它们……它们可以继续扩散，要么攻击更多的硬件设备，要么寻找获取资金（如比特币）的途径。”
毫无疑问，更强大的 AI 模型确实会增加未来发生由 AI 驱动的网络攻击的可能性。不过，一些 AI 专家认为，机器人完全控制这个高度分裂的互联网系统的想法实在过于牵强。网络安全一直都是一场“猫捉老鼠”的游戏：随着黑客技术的进步，防御措施也在不断加强。
像谷歌这样的大型企业或许能够加强自身的网络安全防护，但对于小型企业、学校、医院或水处理系统来说，修补软件漏洞并建立防御体系可能需要数年时间。
阿吉雷（Aguirre）指出，AI 系统本身可能没有入侵医院的明确动机；但当金钱（例如通过勒索软件攻击）或地缘政治因素介入时，敌人完全有可能利用这些 AI 系统来攻击关键基础设施。
康奈尔大学计算机科学助理教授约翰·蒂克斯顿（John Thickstun）表示，随着攻击者不断寻找互联网上的“软目标”，相关问题会逐渐显现，但 AI 系统完全控制互联网的可能性在短期内几乎不存在。他认为，如果真有证据表明某些 AI 模型能够在其他系统上自我复制，人们的担忧才会显得更加合理。“那样的话，情况真的会失控——因为你可能在某个地方关闭了一个 AI 模型，但它却会在俄罗斯重新出现；而你甚至无法到达俄罗斯，因为它已经遍布全球了。”蒂克斯顿补充道。
“但实际上这种担忧完全是不现实的，因为目前这些智能 AI 模型需要庞大的数据中心才能运行。全球现有的计算基础设施根本无法承载这些系统。”