根据剑桥大学的研究,博科圣地(Boko Haram)的武装分子正在利用大型科技公司开发的人工智能聊天机器人来协助制造更强大的炸弹、策划袭击,并在战斗中解决各种问题。
研究人员采访了博科圣地两个分支机构的27名前成员——这些分支机构分别是位于西非地区的ISIL附属组织,以及“贾马特·阿赫尔·苏纳·达瓦瓦·瓦尔·吉哈德”(Jama’at Ahl as-Sunnah lid-Da’wah wa’l-Jihad)。多名成员表示,在袭击前、袭击期间及袭击后,他们经常使用由Sam Altman领导的OpenAI开发的ChatGPT、Anthropic公司的Claude、谷歌的Gemi、埃隆·马斯克(Elon Musk)的Grok、马克·扎克伯格(Mark Zuckerberg)的Meta AI以及中国的DeepSeek等人工智能工具,以获取技术和军事方面的建议。
与此同时,半岛电视台(Al Jazeera)获得的独家资料显示,ISIL运动的支持者正在互相分享有关如何绕过人工智能安全机制以及获取武器相关信息的技巧。来自“Tech Against Terrorism”组织的研究人员潜入了一个支持ISIL的技术论坛,发现这些支持者在该论坛上互相传授如何利用人工智能技术并规避其安全限制的方法。
这些发现引发了人们对ISIL加速采用新兴技术的担忧。今年2月,联合国官员曾向安理会警告称,ISIL及其附属组织正在越来越多地使用先进的人工智能技术。同时,许多研究人员及科技行业的重要人物也指出,随着人工智能系统能力的不断提升,其安全防护措施的发展速度远远落后于技术本身,这使得武装组织更容易利用这些技术。
“我们提出的任何问题都得到了答案,”一位前ISW(伊斯兰国支持组织)指挥官对研究人员表示。
从投影仪到战场——在尼日利亚东北部的一个反政府武装据点内部,前武装分子们描述了一个组织严密、技术高度成熟的系统,用于将各种先进技术应用于实际作战中。
根据剑桥大学的研究,相关人员前往伊斯兰国(ISW)控制的地区,教授高级成员如何使用人工智能技术。这些战斗人员被召集到房间里,研究人员通过笔记本电脑和投影仪向他们演示如何与聊天机器人进行交互,以及如何绕过那些旨在防止他们执行危险任务的防护机制。
“那些白人来了,教了我们如何使用这些技术,”一位前指挥官回忆道。“他们把所有关键人员召集到一个房间里,然后用投影仪在大屏幕上展示相关操作方法。”根据研究中的受访者所述,培训人员提供了配备了隐私保护和加密功能的笔记本电脑,并为这些成员注册了多个人工智能平台的账户及付费服务。受访者一致认为,他们的人工智能培训源自更广泛的“伊斯兰国”组织。
研究表明,随后发生的情况远远超出了个别战斗人员偶尔使用 ChatGPT 的范畴。伊斯兰国(ISW)和“贾斯”(JAS)都成立了专门的人工智能部门,这些部门由具备专业操作知识的人员组成,包括工程师、武器专家和炸弹制造专家。一位前“贾斯”指挥官描述说,这个部门有 23 名成员,他们在一个使用太阳能供电的房间里工作,负责回答问题、分析信息,并为聚集在笔记本电脑前的高级指挥官提供培训。
“比如有人问‘我该如何制造炸弹?’,然后这个系统就会告诉你具体方法,”一位前博科圣地(Boko Haram)指挥官解释道,“它就像一个‘人类机器人’一样。我们经常使用它。”另一位前成员也表示:“上帝帮助了我们,人工智能也会帮助我们。”研究还指出,炸弹制造者在制造爆炸物时通常会随身携带笔记本电脑;每当遇到问题时,他们都会再次使用这些聊天机器人来获取帮助。
负责这项剑桥大学研究的安东尼娅·朱利希(Antonia Juelich)告诉半岛电视台(Al Jazeera),在接受采访的 27 人中,约有 10 人谈到了人工智能在爆炸物制造中的应用,包括如何提高炸弹的威力以及如何从军用弹药中回收爆炸物材料。
但朱利希最担心的,并不仅仅是武装分子能够获取武器信息——其中大部分内容早已存在于手册和网络上。真正的问题在于,AI可以针对他们眼前的具体问题作出回应。
她指出,有武装分子向AI询问如何利用手中有限的材料来改进爆炸物。他们不再需要搜索通用说明,而是可以直接告诉聊天机器人自己有哪些材料,提出问题,并在遇到困难时继续追问。这相当于让他们拥有了一个24小时在线的技术专家,能够根据他们手头的材料和试图制造的炸弹来量身定制答案。
根据剑桥大学的研究,其他一些令人震惊的记录涉及未爆弹药,ISW曾试图从未能引爆的炸弹和其他弹药中回收爆炸材料。报告中描述了此前的一起事件:武装分子对如何处理一枚未爆弹存在分歧。在他们靠近并触碰该装置后,炸弹爆炸,据报道造成40人死亡。前成员表示,他们现在会咨询AI,以获取从敌方投掷或发射的未爆弹药中回收军用级炸药的指导,然后将这些炸药重新用于该组织自己的装置中。
据报道,AI还被用于改装市售无人机,使其能够携带炸药并将其投放到目标上。“直接问Grok”制造炸弹的记录只是故事的一部分。前武装分子描述称,AI几乎渗透到了战斗的每一个阶段。在一则记录中,一名武装分子胸前绑着摄像头进入战斗,将画面传回营地。一名指挥官将这些画面上传到ChatGPT,用它来分析局势,并将新的指令传达给前线的武装分子。
据报道,武装分子在遇到不熟悉的武器时也曾求助于人工智能。有一次,指挥官们询问该组织所谓的AI专家如何操作新获得的枪支。他的回答表明这项技术已经变得多么日常化——“直接问Grok就行”,指的是埃隆·马斯克的AI聊天机器人。
在另一则叙述中,武装分子在政府军在基地周围挖掘战壕以阻止摩托车冲锋后转向了AI。一名前指挥官说,武装分子曾在电影中看到摩托车跳跃障碍物,并在试图复制这一想法时咨询了AI。他声称,在反复尝试掌握这一技术的过程中有18名武装分子死亡,之后有8人最终成功,并在咨询AI后于一次袭击中越过了战壕。
AI还被用于重新思考投入战斗的武装分子人数。一名前ISW武装分子说,该组织在一次行动中部署了约200人,损失了60人。他说,指挥官随后询问AI,规模更小、协调更好的小组是否能在战斗中更有效。
战斗结束后,这项技术仍被咨询。前成员描述了从不成功的行动中返回后,告诉AI他们使用了什么战术并询问为何失败。据报道,武装分子还上传了视频片段进行分析,以寻求改变下一次袭击方式的方法。“拆除速度限制器”半岛电视台独家审阅的证据表明,利用AI的尝试已扩展到全球ISIL支持者的更广泛生态系统中。
“反恐科技”的研究人员获得了进入一个亲ISIL在线技术论坛的权限,发现用户们在讨论如何获取武器相关信息并绕过AI安全护栏——这些限制旨在阻止聊天机器人提供危险信息。
一位支持者将这一过程比作对汽车进行改装:“这就像给汽车去掉限速器一样,”该用户写道,“汽车仍然可以正常使用,但它的性能得到了提升,运行速度远超制造商的预期。”来自 Tech Against Terrorism 组织的卢卡斯·韦伯(Lucas Webber)表示,研究人员越来越多地讨论如何“破解”人工智能系统(即试图让这些系统忽略其内置的安全防护机制)。“这仅仅只是冰山一角罢了,”他说道。
朱利希(Juelich)承认,在监管人工智能方面存在诸多困难,因为许多人工智能技术确实具有合法的应用场景(例如,研究人员和记者可能会询问与军事策略相关的问题)。但她指出,那些试图利用人工智能制造炸弹的请求显然违反了公司的规定,应该被及时制止。“这些行为属于对人工智能系统的‘破解’行为,即试图绕过其安全限制,”她强调,并补充说随着人工智能技术的不断发展,相关行业需要更加严格的监管。
各大人工智能公司都表示自己已经采取了相应的安全措施来防止此类滥用行为:OpenAI 禁止其系统被用于恐怖主义、暴力活动或武器开发;Anthropic 和 Meta 则表示他们通过分类器等工具来识别并阻止危险请求;xAI 也禁止任何试图绕过其安全机制的行为。Al Jazeera 已联系了 OpenAI、Anthropic、Google、xAI 和 Meta,要求他们对这些研究结果发表评论。
这些新证据和研究的出现,正值 Anthropic 的首席执行官达里奥·阿莫迪(Dario Amodei)敦促人工智能公司放慢最先进模型的研发速度,以便有足够的时间进行安全审查的同时,他也呼吁建立独立的安全评估机制和统一的安全标准。
然而,唐纳德·特朗普(Donald Trump)政府的立场却截然不同:美国政府认为美国的人工智能公司应该享有自由创新的权力,不应受到“繁琐的监管”,并主张推行一种“负担最小化”的国家监管框架。
这使得各家公司在决定其系统底线方面扮演着重要角色——尽管研究人员和业内许多人士都在警告日益强大的模型所带来的风险。
剑桥大学对前博科圣地成员的采访主要描述了2023年和2024年期间人工智能的使用情况,朱利希认为,考虑到自那时以来技术发展的迅猛程度,这一发现更令人担忧。
她告诉半岛电视台,她担心这些武装分子现在利用2026年可用的更先进的人工智能系统,可能实现什么样的目标。“我担心事态的发展方向,”朱利希说。