字号 ·· | 护眼
法国国际广播电台

AI深度伪造与虚假战士重塑马里的信息战

周三发布的一项研究发现,马里的交战各方越来越多地使用人工智能,在实地战斗的同时进行信息战。圣战分子正在试验相对基础的人工智能宣传,分离主义网络正在创建虚假的在线人物,而俄罗斯的非洲军团正在以更为复杂的方式使用这项技术。

这项由总部位于达喀尔的廷巴克图研究所进行的研究,考察了生成式人工智能在马里冲突中的使用情况——包括与基地组织有关联的JNIM圣战分子、他们在FLA(阿扎瓦德解放阵线,一个图阿雷格独立运动)中的盟友、马里过渡当局以及俄罗斯的非洲军团。

“生成式人工智能正在成为马里信息战的新前线,”廷巴克图研究所所长、塞内加尔圣路易斯加斯顿·伯格大学的研究员兼讲师巴卡里·桑贝告诉法国国际广播电台。

“每个人都根据自己的资源、技术复杂程度和目标,以自己的方式采用这一工具。在马里前线,有了人工智能,我们正从圣战组织相当初级的使用,例如,转向俄罗斯方面真正的专业机器。”马里总理访问阿尔及利亚强调需要共同安全目标 JNIM处于这一光谱的初级端。

廷巴克图研究所发现了通过其媒体渠道传播的人工智能生成的宣传海报,其中一张宣传了4月25日袭击期间拍摄的真实视频,那次袭击导致马里国防部长萨迪奥·卡马拉丧生,并将马里军队及其俄罗斯非洲军团伙伴赶出了马里北部的基达尔镇。

桑贝说,人工智能不会在马里制造新的分裂,但会放大已经存在的分裂。

JNIM仍处于有限试验阶段,尽管研究人员认为人工智能可以帮助该组织翻译宣传材料,并大幅增加其制作的素材数量。

“真正的危险是针对圣战招募目标的大规模个性化,”桑贝补充道。

自动翻译可以使JNIM等组织用约15种萨赫勒语言制作招募信息,包括富拉尼语、班巴拉语、沃洛夫语和塔马舍克语,针对不同受众使用不同信息。

“给富拉尼年轻人的关于牧区自豪感的信息,给边缘化城市青年的关于社会尊严的信息,”桑贝说。

“通过语音配音,你甚至可以接触到不会读写的人,这些人迄今为止一直无法接触到书面宣传。”军方称叛乱分子袭击马里北部和中部多个城镇 FLA独立支持者使用人工智能的方式不同。由成员或支持者运营的非官方社交媒体账户创建了完全人工的人物来传播他们的信息。

研究人员发现的一个例子是“阿兹吉姆”,一个所谓的图阿雷格战士,他对俄罗斯非洲军团的猛烈批评在网上被广泛分享。他实际上是一个极其逼真的人工智能创造物,尽管图像中的瑕疵表明他是人工的。

研究作者说,这样的人物可以“人性化”一场运动,为特定受众定制信息,使其更容易传播,并有助于招募。他们还降低了真实战士公开露面所面临的风险。

与此同时,廷巴克图研究所表示,俄罗斯的非洲军团和马里的过渡当局展示了“国家层面、专业化和系统性地采用生成式人工智能”。

非洲军团接替了俄罗斯雇佣军组织瓦格纳,已将人工智能纳入本已庞大的虚假信息行动中。

其方法包括虚假视频、反西方深度伪造和生成的社交媒体评论,研究人员和欧洲国家机构记录了大规模行动。全球圣战主义对非洲的控制日益增强“非洲军团的案例无疑是整个研究中记录最充分的案例,”桑贝说。

他说,研究人员统计了自2018年以来在马里、布基纳法索和尼日尔发生的19起俄罗斯虚假信息活动。

“有了人工智能,俄罗斯的虚假信息正转向完全不同的规模。我们正从家庭手工业转向工业生产,还加上合理的推诿,”桑贝说。廷巴克图研究所发现的一些内容吸引了近500万次观看。

它描绘了马里军队对JNIM和FLA战士的胜利,并放大了马里过渡当局以及萨赫勒国家联盟三国——马里、尼日尔和布基纳法索——反对法国、区域集团西非国家经济共同体和人权组织的信息。

桑贝说,在4月25日基达尔战斗之后,还使用了深度伪造和协调一致的行动来正面展示非洲军团,避免出现失败的样子。

他说,俄罗斯准军事人员还利用人工智能推动声称法国和乌克兰在战斗中支持并装备了JNIM和FLA袭击者的说法。桑贝说,这些说法构成了将外国势力描绘成密谋反对马里的叙事的一部分,同时强化了政府的官方信息。

该研究所表示,此类内容被用于政治控制和操纵信息与舆论,转移人们的注意力,并在真实安全局势上误导他们。

报告补充说,其影响更大,因为萨赫勒国家联盟各国政府加强了对国内媒体的控制,并切断了他们认为过于麻烦的国际媒体。人权观察称马里对平民的战争随着联盟转变而加深 研究人员警告,人工智能可能越来越多地超越信息战,进入军事行动,包括无人机袭击。

人工智能可以帮助准军事部队识别目标并增强其能力。桑贝说,其使用也导致了错误和伤害,影响了社区,包括平民和其他非战斗人员。

在该研究所的书面研究中,先进的军事用途在很大程度上仍是前瞻性的,但其潜力被描述为“严重威胁,因为它可能被用作力量倍增器”——这可能使武装团体能够利用现有资源取得更多成果。

桑贝说,同样的效果可以改变招募方式,使圣战组织能够通过高度定制的信息针对个人。

“明天的圣战主义将不再大规模招募。它将逐人招募,并针对每个人量身定制方法,”他说。