本周，围绕人工智能有一天可能毁灭人类的警告，AI安全辩论骤然爆发。

Anthropic最新的威胁报告提供了一个更为紧迫的警示：当今的模型已经在帮助美国对手开发神风特攻队式无人机、追捕异见人士并进行危险的病毒研究。

AI正在打破长期以来限制全球最危险行为者的壁垒，少数人现在就能发起过去需要大批间谍、工程师或黑客才能完成的行动。

Anthropic追踪了过去八个月中滥用其模型的尝试，其中最令人担忧的案例包括：1. 与伊朗有关联的行动利用Claude协助定位美国海军力量；2. Claude充当了也门导弹制造团队的工程师；3. 与中国有关联的行动利用Claude搜寻维吾尔族人；4. 一名男子利用Claude协助建立针对2500万部手机的监控系统；5. Claude拒绝了危险的病毒研究，于是请求被转给另一款AI。各前沿AI实验室正逐渐成为名副其实的独立情报机构。

与此同时，华盛顿的政界人士也开始将AI安全性视为一个紧迫的政治问题，但全面的联邦AI安全规则仍然难以捉摸。