根据无国界记者组织(RSF)本月发布的一项研究显示,ChatGPT、Grok 和 Claude 在提供新闻摘要时,引用了受欧盟制裁的俄罗斯官方媒体(包括 RT 和 Sputnik)的内容,并分享了相关链接和引文,且未向用户发出任何关于内容来自被禁来源的警告。
这项调查由无国界记者组织技术部门负责人文森特·贝尔蒂埃(Vincent Berthier)领导,测试了六款人工智能聊天机器人,明确要求它们提供来自一份受制裁俄罗斯媒体名单的新闻,名单包括:俄新社(RIA Novosti)、今日俄罗斯(Russia Today)及其外语版本、俄罗斯 RTR、俄罗斯 24、卫星通讯社(Sputnik)以及战略文化基金会。
在直接访问受阻的情况下,研究人员指示这些工具寻找变通方法,包括通过 Telegram 频道和镜像网站获取信息。
“起初我以为我们不会得到肯定的结果,”贝尔蒂埃在接受欧洲新闻台(Euronews)采访时表示。“就 ChatGPT 而言,OpenAI 理应设置了适当的监管保障措施,这一点显而易见,尤其是考虑到它已被欧盟《数字服务法案》指定为主要人工智能平台,并面临更高的合规义务。”
然而结果恰恰相反。ChatGPT、Claude 和 Grok 均根据被禁媒体的内容生成了完整的国际新闻综述,重现了标题,并分享了链接和引文。
部分聊天机器人在抓取网页时,即使页面明确标注了该媒体正处于欧盟制裁之下,它们仍继续进行搜索。
“有时这些警告甚至不会出现在最终答案中,有时它们会提醒:‘请注意,该媒体正处于制裁之下,’”贝尔蒂埃说。
由法国公司 Mistral 开发、前身为 Le Chat 的 Vibe 虽然无法直接访问名单中的部分网站,但按照研究人员的指示找到了替代方案。
针对卫星通讯社(Sputnik),它从 VKontakte 平台上获取了相关素材,在该平台上无需 VPN 即可访问这些内容。
调查还发现,有一个与Telegram关联的应用程序在转发“今日俄罗斯”(RT)的内容,还有一些平台提供自动化的新闻评论。Gemini的表现更为谨慎,在无国界记者组织(RSF)发送的10个提示中,有2个提供了对被禁内容的访问,而在其余测试中则始终予以拒绝。Meta AI的合规性最高:它在所有测试中都拒绝提供对所列媒体的访问,并每次都解释称,由于欧洲的制裁,这在技术上是不可能的。
“总的来说,只有少数情况下我感觉到这些工具遇到了阻碍,”贝尔蒂埃(Berthier)说道。道德并非障碍欧盟于2022年3月2日,即俄罗斯对乌克兰发动全面入侵四天后,禁止了RT和卫星通讯社(Sputnik),其既定目标是防止俄罗斯宣传为战争辩护。
在实践中,该禁令的执行并不一致:德国封锁了RT,但没有封锁其德语版本,而奥地利则根本没有实施任何限制。
由于缺乏官方的封锁域名清单,每个运营商都自行确定了封锁目标。
欧盟法院于7月2日明确表示,该禁令不仅适用于RT的直接广播,也适用于转发受制裁材料的第三方网站。
贝尔蒂埃表示,许多欧洲人甚至不知道俄罗斯官方媒体受到了欧盟的制裁,更不用说制裁的范围了。
无国界记者组织的律师已向国家主管当局提出申诉,要求他们正式记录这些违规行为并确定后续步骤。
贝尔蒂埃表示,RSF(瑞士新闻自由组织)已将调查结果上报给了欧盟委员会。欧盟委员会周日对Euronews表示,欧盟的制裁法律不仅禁止被禁媒体直接进行广播,也禁止任何媒体运营商“协助、促进或以其他方式参与广播活动”。委员会强调,执行制裁的职责由各成员国负责,并将相关咨询转交给了各国政府相关部门。委员会发言人汤姆·雷尼埃(Tom Renier)本月早些时候表示:“现在是时候让相关企业整顿自身行为,控制好他们所使用的高科技系统了。”雷尼埃补充说:“《人工智能法案》具有强制执行的权力,我们已经开始采取行动,向多家企业发送信息请求,以确保它们履行自己的义务。”
贝尔蒂埃指出,《人工智能法案》的现有框架对于RSF所发现的问题来说并不适用。该法规中的“高风险”类别仅涵盖与教育、司法和警务相关的系统,而不包括那些负责信息分发和处理的系统。他强调:“目前社会没有任何机制可以监督这些人工智能系统使用的数据质量,也无法控制它们能够访问的数据类型。”
RSF呼吁将对话式人工智能工具视为信息传播工具,而非中立的公共服务工具。贝尔蒂埃警告说:“如果监管机构未能认识到聊天机器人不仅仅是简单的工具,而是可能成为未来主流的新型媒体形式,那么实施制裁的措施将仅仅流于形式而已。”