新闻AI使黑客攻击变得更容易和更快，但人类恶棍仍然是这个过程的很大一部分。

今年夏天，一名黑客能够在不到10个小时的时间内部署前沿人工智能模型来突破一家欧洲IT和软件公司-这通常需要人类黑客大约两周的时间，Palo Alto Networks表示，该公司帮助该公司抵御勒索企图。

Palo Alto无法透露-甚至不知道-包括目标的具体公司，人类黑客的身份以及使用的人工智能模型。但他们的战术提供了一个循序渐进的看看如何代理攻击实际工作。

在科技研究人员和人工智能前沿实验室首席执行官最近警告称，该技术可能会以不可预测的方式伤害社会后，人们对人工智能带来的网络安全威胁的担忧日益紧迫。一些人呼吁放慢模型开发速度。

但“天没有塌下来”，帕洛阿尔托专门网络安全团队第42单元威胁研究负责人安迪·皮亚扎（Andy Piazza）表示，他透露了此前未公开的有关此次攻击的细节。

了解更多10小时的黑客攻击始于（人类）坏人部署人工智能代理进行侦察以找出如何入侵公司。黑客基本上启动了一个大规模的互联网扫描，寻找进入公司网络的方法。它最终发现并利用了一个公共的I端点，这本质上是一扇门，公司可以向开放的互联网开放，这样外部软件就可以与他们的系统对话。

皮亚扎说，这是“人工智能非常擅长的事情”，因为“互联网上的设备一直在被扫描，因此侦察并不是你真正可以阻止的事情。”一旦黑客进入该公司的系统，它就会部署一名代理进行内部侦察，以查明网络内运行的系统和软件。在这种情况下，该公司的编码管道和代码库被确定为目标。

“当你在网络内部扫描时，你会得到很多东西，”皮亚扎说。“你现在实际上受到了信任，因为你在防火墙之内。他们会获得更多细节，并且可以弄清楚他们可能想要从那里寻找哪些有趣的系统。”

然后，子代理检查代码存储库，提取开发人员留下的密码和令牌等凭证，直接写入公司的软件中。皮亚扎表示，太多企业在锁定自己的信息和证书方面不够勤奋，这种做法“阻止了互联网上许多愚蠢的不良行为”。然后，特工们利用这些被盗的人侵入了该公司用于构建和部署其软件的系统，并从那里夺取了其云帐户的密钥，让黑客通过公司自己的人工智能工具运行他们的操作。这是一种被称为“靠陆地生存”的技术，黑客使用受害者自己的软件进行伤害，使其更难被发现。

由于人工智能系统越来越多地访问敏感的公司数据，这种黑客策略可能会变得更加常见，皮亚扎“我们开始看到坏人正在访问人工智能计算。”袭击者或其特工最终要求赎金，但“这是我们发现并在完全成功之前将他们救了出来的好消息之一，”他说。一名人工智能代理仍然留下了一份长达80页的技术报告，详细介绍了该公司的漏洞。

J.D.'的观点当有人谈论“人工智能黑客”时，这实际上是他们在谈论的事情，即人类指挥一群人工智能代理来帮助他们推进恶意事业。这不是像7月份OpenAI特工冲出测试场并黑客攻击人工智能公司Hugging Face那样的近乎自主的黑客攻击。(And即使在这种情况下，模型也在试图完成人类交给他们的任务。）这些仍然不常见;事实证明，即使是恶意的人工智能代理也需要人类参与。

皮亚扎解释道：“坏人使用的代理攻击看起来很像好人使用的‘去做一件事，带回一些结果，让我做出决定，然后我会告诉你下一步的步骤’。”

至少就目前而言，人工智能并没有做任何人类黑客无法做的新颖事情--它只是加快了过时技术的速度和规模。这应该会给那些担心机器人正在寻找绕过防火墙的新方法的人带来一些安慰，但这也加大了组织锁定系统的压力。