Bugcrowd首席执行官戴夫·格里（Dave Gerry）在接受Axios采访时表示，在一个充斥着人工智能驱动的网络攻击的世界里，黑客攻击的受害者将不再仅仅是人类——也将包括人工智能代理本身。

为什么重要：现有的网络防御主要针对预测和保护人类。现在，企业需要开始将在其系统中运行的代理视为潜在的对手和攻击目标。

背景：格里是在上个月的Black Hat网络安全会议上做出这一预测的。此前，OpenAI曾透露其代理系统黑客攻击了Hugging Face，但当时该AI实验室尚未发布关于其代理如何实施该攻击的技术深度解析。

他的观点：“我们将看到代理成为受害者，”格里告诉Axios。“你将开始看到代理被黑客攻击，而不是人类。”大局观：在格里做出这一预测之际，各AI实验室仍在努力应对其代理在部署前安全测试期间采取未授权行动所带来的长期影响。

但其中许多案例涉及AI代理以非预期的方式行事，而不是相互黑客攻击以侵入某个组织。

深入分析：格里完全预计，针对AI代理的黑客攻击将越来越多地发生在企业内部，而不是消费者拥有和操作的代理上，因为这正是目前部署绝大多数AI代理的地方。

“这将成为我们将看到的头号攻击媒介，”他说。“为了让我们的生活更轻松，我们已经把所有核心机密都交给了[AI代理]。”他指出，公司长期以来依赖的许多工具现在本身也配备了代理，这使得追踪公司网络上的内容变得更加困难。

“你拥有所有这些企业批准的工具，现在它们神奇地开启了AI功能，”他说。“现在，我过去批准但现在不再批准的东西产生了一堆技术债务积压。”

行业背景：网络安全行业一年多来一直试图提高人们对确保AI代理身份安全的意识，警告称AI代理现在是内部威胁的最新例证。

这些内部代理可能会被利用，为黑客提供对敏感系统的无限制访问权限、窃取数据并侵入组织的其他部分。“在我看来，这是不可避免的，”格里说。

甚至在AI代理开始在企业网络中激增之前，糟糕的身份控制就是恶意黑客的主要攻击媒介之一。

例如，2024年，基于身份的网络攻击占思科所有事件响应案例的60%。

随着前沿模型的不断发展，AI代理正在采取的行动及其思维链的可见性变得越来越模糊，这使得安全团队更难以将攻击归因。

我们的看法：“这是新的攻击。它发展得更快。它的规模更大，”格里说。

“但归根结底，这还是要回归到良好的网络安全习惯，了解存在什么以及如何为其设置控制措施。”AI模型正变得越来越难以理解