Anthropic发现了一个针对马来西亚的AI驱动型选举操纵平台，这让人们得以一窥该技术如何利用一个国家的政治脆弱性开展复杂的造势行动。

该行动使用了数百万选民记录、虚假社交媒体账号、合成新闻网站以及捏造的档案，这指出了一个更深层次的风险：分析人士指出，薄弱的数据保护措施以及根深蒂固的种族和宗教分歧，可能会使政治行为体以快于监管机构或平台反应的速度对选民进行精准干预。

这家美国人工智能公司在周四发布的一份报告中表示，其已封禁了一个账号，该账号曾利用其Claude模型在马来西亚的222个国会选区运行其所描述的商业选举操纵平台。

Anthropic表示，操作人员输入了人口普查和选举数据，按选区对选民进行画像，同时利用该平台管理一个由虚假账号组成的网络，旨在夸大网络支持度并逃避检测。

Anthropic在其威胁情报报告中表示：“该平台管理着约一千个虚假账号组成的网络，这些账号经过优化，可提高互动指标并规避社交媒体平台的检测系统。”

该行动还使用了一个人工智能改写系统来运营一个名为“马来西亚脉搏”（Malaysia Pulse）的假新闻网站，并生成了包含针对反对派政治人物和公民社会组织指控的伪造情报档案。

尽管马来西亚政党通常将政府记录与内部党务数据结合起来进行选民定位，但分析人士表示，该国对个人数据保护的监管过于宽松。

马来西亚莫纳什大学媒体研究讲师本杰明·罗（Benjamin YH Loh）表示，该国规范个人数据处理的核心法律《2010年个人数据保护法》在数据泄露或滥用方面的执法力度一直微乎其微。

罗表示：“除非政府改变处理个人数据的固有特权，否则这种状况不太可能会改变。”

罗将Anthropic的调查结果与2018年的剑桥分析公司（Cambridge Analytica）丑闻进行了类比。在那起丑闻中，从数千万脸书（Facebook）用户身上搜集到的个人数据与选民记录相结合，用于进行有针对性的政治画像，其中包括与唐纳德·特朗普在2016年成功竞选美国总统相关的运作。

“剑桥分析事件之后，任何政党只要企图利用这些技术来制造和散布虚假信息或宣传，就应该在 perpetrators（肇事者）着手利用的那个时刻被追究责任，”罗说。他补充说，虽然监管机构负有一定责任，但平台所有者也必须被追究责任。“他们的责任是在这些情况发生时进行举报，并做到更高的透明度。”双威大学数据科学与人工智能系主任安瓦尔·阿卜杜勒·马吉德（Anwar Abdul Majeed）教授表示，人工智能带来的危险是“成本的崩溃”，这使得过去需要一个作战室才能进行的行动，现在只需一个订阅账户即可操作。

安瓦尔指出，马来西亚的防范措施仍然“与威胁不匹配”，并指出了《个人数据保护法》（PDPA）覆盖范围的漏洞，以及缺乏管辖人工智能生成内容的特定选举规则。

“真正的危险在于关联，”他警告称，人工智能可能会将选民名册、人口普查信息和泄露的数据库融合成选区层面的精准定位能力，而这些数据集原本都没有设计来实现这一点。

马来西亚通讯及多媒体委员会已对Anthropic的调查结果展开调查，并正寻求相关方的更多信息和澄清。

该机构在周五的一份声明中表示：“根据获得的信息和证据，马来西亚通讯及多媒体委员会将在其管辖范围内决定适当的后续行动，包括与相关部门合作。”

其他分析人士则提醒人们，不要将人工智能影响力行动视为一种全新的现象，而是应将其视为利用现有社会分裂的一种新方法。

“人工智能的使用不过是一次极其强大的技术升级，”双威大学政治学家黄进发表示。

黄进发表示，人工智能驱动的虚假账号在社交媒体上放大回音室效应、利用从众心理方面尤其有效。

“由人工智能运营的假账号可以制造出某些观点是主流的虚假印象，从而让目标网民产生赋权或被剥夺权力的感觉，”他表示。“更重要的是，它们可以通过挑起网民进行情绪化的争吵来激化党派冲突，从而巩固他们的立场。”黄表示，其背后的策略是利用身份政治并升级党派行为，以动员支持者或瓦解反对者。然而，鉴于很难界定合法政治表达的终点和违禁内容的起点，他对外仅靠立法能否遏制这一威胁持怀疑态度。

马来西亚一直在加大对涉及敏感“3R”即种族（race）、宗教（religion）和王室（royalty）的网络内容的打击力度，尽管这种方法的连贯性和有效性值得商榷。

“唯一的出路就是识别并删除虚假账号，无论其内容如何，就像Anthropic所做的那样，”黄表示，并补充说，长期的韧性取决于公民文化。

“我们需要建立一种更健康的政治文化，如果政党和政治人物越过了体面的底线，他们将受到彼此以及最广大众公众的制裁，”他说。“如果体面在线下得以存续，网络匿名虚假行动的危害就会受到限制。”