字号 ·· | 护眼
thenextweb

特朗普前人工智能事务主管告诉Anthropic和OpenAI放慢脚步,并停止索取任何回报

David Sacks告诉Anthropic和OpenAI,尽管去把控前沿节奏,但不要再寻求反垄断豁免或审批制度,理由是产品责任和市场压力已经在约束它们。欧洲在2025年2月就责任问题得出了相同结论,并从12月9日起将独立软件视为严格责任下的产品。

据ANI报道,David Sacks告诉Anthropic和OpenAI,尽管放慢脚步,不要再要求任何回报。他担任总统科技顾问委员会主席,并在3月之前担任白宫AI和加密货币事务负责人。

他对这两位首席执行官的答复是,它们就是前沿。“不构建超级智能的最简单方法,就是你们同意不构建它,”他写道。

他拒绝的是附在文件上的那份名单。他写道,那些要求放缓前沿发展步伐的公司不应再假装必须暂停反垄断法,“以便你们能够组建卡特尔”,也不应再要求一种凌驾于产品责任之上的审批流程。

他还质疑Anthropic所聘请的评估机构METR的独立性,称其与这家公司的投资者和员工有着千丝万缕的联系。

这场争论正值一次辞职事件之际。9月8日,一名预训练研究员离开Anthropic,称该行业正在拿人们的生命赌博,而该公司的对齐科学负责人认为,AI在未来十年内导致人类灭绝的概率超过10%。萨克斯提出了另一种行为准则。

他主张,如果模型助长了一次严重的网络攻击,公司就会面临产品责任索赔,而市场早已会惩罚那些行为不可预测的系统。他写道,把建立监管框架作为克制的前提,看起来就像“敲诈”。欧洲率先得出了结论。欧盟委员会已于2025年2月撤回了其拟议的《人工智能责任指令》,因为认定修订后的产品责任规则已经涵盖了人工智能软件。

从12月9日起,这些规则将独立软件、操作系统和人工智能系统视为产品,适用严格责任,索赔人无需证明过错。

缺陷的认定现在纳入了网络安全漏洞,以及发布后变得不安全的自我学习行为。法院可以命令被告披露证据,并且在索赔人举证缺陷面临过度困难时,可以推定存在缺陷。欧洲没有做的是做出选择。

自2025年8月起,《人工智能法案》的系统性风险义务已约束前沿模型,而自8月2日以来,欧盟委员会可以要求进行评估,并处以全球营业额3%的罚款。因此,萨克斯所反对的审批式制度和他所偏好的责任制度将同时作用于相同的模型。

自今年夏天以来,欧洲律师一直在研究这意味着什么,无论是在驾驶辅助系统还是聊天机器人领域。萨克斯提议的,正是一个司法管辖区即将进行的实验。