(中央社记者吴家豪台北17日电)Google威胁情报小组公布第4季「AI威胁追踪报告」,首次观察到攻击者利用人工智慧(AI)代理,在完全无需人类介入的情况下,将安全修补程式转化为实际可用的攻击手法;整体而言,AI代理在系统入侵与漏洞利用过程中承担更多工作,不仅大幅降低人类参与的需求,更加速了攻击生命周期。
Google威胁情报小组(Google Threat Intelligence Group,简称GTIG)公布的「AI威胁追踪报告」(AI Threat Tracker),详细说明威胁发动者透过代理式AI所使用的最新攻击手法,以及Google如何侦测并阻断对AI助理Gemini服务的滥用、停用相关帐号,并根据这些发现强化安全防护机制。
本次报告发现首例「无需人类介入」(human-out-of-the-loop)的漏洞利用案。一个名为exploit_agent的大型语言模型(LLM)框架,配置俄语工具,能持续比对修补前后的程式码、识别安全漏洞,并在无人类干预的状况下自动开发出漏洞攻击。
Google威胁情报小组也观察到受财务动机驱使,以及疑似进行网路间谍活动的威胁发动者,纷纷使用CAIRN、PentAGI与CyberStrikeAI等开源的代理式渗透测试工具,来自动化执行攻击过程中的各个步骤。其中一个案例显示,某个攻击者在针对美国航太产业的入侵行动中部署了CAIRN。
此外,Google威胁情报小组发现,与中国相关的攻击者正利用LLM,将窃取来的资料处理为情报产品。同时也追踪到与北韩相关的攻击活动,利用AI生成的假身分锁定加密货币公司,并试图操纵自主程式编码辅助工具的系统配置。