9月14日:据The Information周一报道,包括Palantir Technologies、英伟达和博思艾伦咨询公司在内的多家大型科技公司可能限制或停止使用先进AI模型,除非Anthropic和OpenAI保证不会滥用其知识产权。
与此同时,根据该报道援引知情人士的说法,微软正利用这些担忧,通过推销隔离云环境和自家AI产品来吸引客户。
Anthropic首席执行官达里奥·阿莫代伊周六呼吁AI公司放缓前沿模型的开发步伐,警告说能力的进步速度已快于研究人员能够理解或控制的速度——这一立场迅速得到OpenAI首席执行官萨姆·奥尔特曼和埃隆·马斯克的赞同。
报道称,Anthropic在6月对其Fable模型进行政策调整后遭遇了客户的反对,该政策赋予公司保留使用日志30天的权利,以防止“复杂和新颖的攻击”。
报道称,OpenAI也面临类似的审查,因为有人声称它可能利用用户数据训练模型以帮助解决数学问题。
Palantir、英伟达、博思艾伦、Anthropic和OpenAI均未立即回应置评请求。
报道援引一位知情人士的话称,Palantir已向Anthropic施压,要求其提供不可撤销的零数据保留保证,然后才允许其模型通过Palantir的软件提供。
报道称,英伟达限制Anthropic的使用范围,仅用于敏感度较低的任务,内部工作则依赖自家的Nemotron模型;而博思艾伦则禁止员工将Anthropic的商业模型用于专有的网络安全工作。
报道还称,两家AI实验室均表示,除非企业主动选择加入,否则默认不会利用客户数据进行训练,但会收集匿名化元数据以改进产品。