Anthropic在周四发布的威胁报告中称，全球多国的官方监控行动正在使用Claude来简化运作。

重要性：随着模型能力越来越强，政府想要监控异见人士、政客、记者和人权活动人士的门槛正在降低。

具体来看：Anthropic发现，与马里、中国和伊朗政府有关联的人员正在使用多种Claude模型来简化其监控行动。

在马里，一名为国家安全部门工作的顾问利用Claude创建了一个系统，从该国移动运营商收集数据并建立个人档案。

Anthropic还披露了另一起案例：伊朗行为者利用Claude构建并部署了一个恶意Firefox浏览器扩展，该扩展“从社交网络中收集用户身份”。报告称，中国的一个宗教事务情报办公室已将其运作从“多个分析团队”缩减为“一个办公室，使用AI助手每月生成数千项调查”。

威胁：报告称，各国政府还使用Claude分析这些信息并选择监控目标。

例如，中国政府使用Claude分析社交媒体数据，判断帖子的政治敏感程度，然后挑选他们所谓的“管控”潜在目标，这可能包括强制讯问或更密切地监控某人的行踪和通讯。

6月，Anthropic还封禁了一个使用Claude构建商业监控平台的账户，该平台旨在监视伊朗和波斯湾地区的人员。该AI实验室在该用例投入运行之前就发现了它。

宏观背景：Anthropic观察到AI正从实验性工具转变为国家监控日常行政的一部分。

中国某国家安全局甚至编写了一份在监控行动中使用AI的内部手册，而其他官员则使用Claude来自动生成每日情报报告并查询政府监控数据库。

与此同时，Anthropic威胁情报主管Jacob Klein告诉Axios，AI工具正在使国家支持的监控变得更便宜、更高效，而不是从根本上改变政府的目标对象。

Klein补充说，AI日益允许单个政府雇员或承包商自动化完成过去需要分析团队才能完成的工作。

Klein说：“他们实际上是在情报机构内部实现部分工作的自动化。”

现实：各国政府并不需要访问Anthropic最强大的模型就能大幅扩展其监控行动。

报告中的所有监控案例都涉及Claude Haiku、Sonnet或Opus，而非Anthropic较新的Fable或Mythos级模型。

Anthropic表示，它已封禁所有与其发现的监控行动相关的账户，并根据发现加强了安全防护措施。

然而，切断Claude并不一定会终止相关行动。Klein表示，Anthropic已经看到，在其安全防护或执法造成太大阻碍后，行为者转向了开源模型。在马里，政府最终只是使用其他模型在当地部署了其监控平台。

结论：这些监控用例不再是假设性的，Anthropic预计AI能力将持续提升。

Klein说：“威权国家如今正在使用AI进行监控、镇压和影响力行动。这不再是假设。”