亚历克斯·卡普表示,Anthropic呼吁政府监管的背后,除了安全考量外,还有更深层的动机。Palantir首席执行官在周四接受CNBC《Squawk on the Street》节目采访时指出,像Anthropic这样的前沿人工智能实验室寻求国有化,是为了保护自己免受未来关于窃取知识产权的诉讼。卡普在谈及人工智能实验室时表示:“这些企业必须被国有化,因为如果不实行国有化,我的每一位客户都会提起诉讼。”“显而易见的解决方案是美国。”卡普称,Palantir的一些客户告诉他,他们的专有商业创意正成为聊天机器人的训练数据,并暴露给更广泛的世界。“他们发现,隔壁的竞争对手掌握了他们所有的产出成果,”卡普说。卡普表示,潜在的诉讼潮可能促使人工智能公司寻求政府保护,以规避责任。“这种模式需要严格的法律责任豁免,而唯一能做到这一点的机构就是美国政府,”他说。卡普此前曾就数据保护问题严厉批评过前沿实验室。今年六月,Palantir发布了一份九点宣言,敦促企业将数据保留在内部,而不是外包给Palantir认为不可靠的机构。该宣言中的一点写道:“转移这些数据,就等于将现有成功策略的访问权拱手让人,并交出了创造新策略的生产手段。”对人工智能程序安全性的担忧在本月初Anthropic前工程师雅各布·考克森辞职并发出严厉警告后,迅速进入主流视野。他警告称,像Anthropic和OpenAI这样的前沿人工智能公司正在“拿我们的生命赌博”。周六,Anthropic首席执行官达里奥·阿莫迪发表了一篇论文,倡导协调放缓发展,并警告称,递归开发——即人工智能自我改进的过程——可能很快产生失控的人工智能代理,这些代理有能力接管互联网。
这篇文章得到了OpenAI首席执行官Sam Altman和SpaceX首席执行官Elon Musk的大力支持。阿莫迪在文章中表示,“所有前沿实验室都应该与政府合作”,以防止人工智能模型之间出现不一致的事件。他说:“一些对节奏有影响的协调形式在法律上具有挑战性,需要政府的支持。”唐纳德·特朗普总统周末表示,他对监管该行业不感兴趣。“人工智能需要的唯一控制或‘护栏’是一个强大且聪明的(高智商!)总统,美国肯定有这个!”总统在社交媒体上说道。对卡普来说,这场辩论的框架是错误的。卡普说:“据报道,这是一场监管、非监管的运动。”“这实际上不是这个运动。他补充说:“处理这种责任的唯一办法是去政府那里说,”请把我们国有化。“