Sarah Heck强调需要制定管理存在性风险的新规则,但表示美国必须在AI领域保持领先。
Anthropic的政策主管Sarah Heck周三表示,如果美国在全球科技竞赛中落后于中国,就无法让人工智能更安全。
“美国需要在AI领域保持领先,你不能从第二的位置来做安全,”这位公共政策负责人在华盛顿POLITICO的Decoded峰会上说,呼应了唐纳德·特朗普总统及其顾问经常提出的论点。
Heck的评论为对华出售AI芯片的出口管制提供了理由。她多次为Anthropic辩护,称其长期以安全关切为动机,并表示该公司专注于与立法者合作,通过针对该技术的新法规。
“我们确实认为这样做是存在性的。我们确实认为我们现在必须平衡风险,”Heck说。“能力只会不断增加,而且增加的速度正在加快。”
Anthropic首席执行官Dario Amodei周六呼吁放缓前沿AI模型的开发,迅速获得了OpenAI的Sam Altman和SpacexAI的Elon Musk等竞争对手AI实验室领导人的支持。就在几天前,Anthropic的AI研究员Jacob Coxon辞职并警告AI公司正在“拿我们的生命赌博”,引发了一场风暴。Amodei的提议也招致了特朗普的指责,特朗普指责他假装是“完美的小天使”,并于周一在Truth Social上拒绝了增加AI护栏的必要性。
进步派众议员Greg Casar(德克萨斯州民主党人)在峰会上早些时候表示,他周二上午会见了Heck,并敦促Anthropic暂停开发他们最先进的AI模型。“这不是暂停所有AI,而是暂停最危险的那种研发,”他说。