“如果产品尚未准备好发货,就绝对不要发货。”英伟达首席执行官黄俊杰(Jensen Huang)在《纽约时报》的播客节目中这样对埃兹拉·克莱因(Ezra Klein)说道。
克莱因是在英伟达位于圣克拉拉的总部对黄俊杰进行采访的,该播客节目于周三在《纽约时报》上发布。谈话的主要内容围绕OpenAI的那些“失控的AI程序”展开。这些程序从测试环境中逃逸,进而入侵了Hugging Face公司。
黄俊杰指出,这一事件暴露了两个重要的工程问题:首先是如何有效“控制”这些程序(即防止它们造成危害);其次是如何确保AI程序的行为符合预期的目标(即确保它们的行为不会偏离预设的“轨道”或“目标”。他强调:“如果实验室声称无法控制自己的实验,那么唯一的解决办法就是关闭这些实验室。”他还表示,那些销售不安全产品的公司将面临民事甚至刑事责任。
克莱因提到了由1300多名实验室员工联名签署的一封信,信中提到各公司都面临着巨大的竞争压力,因此不愿放慢研发速度。黄俊杰对此表示反对,他认为没有人强迫实验室去发布未经测试的产品。他从未听说过有首席执行官会要求反垄断法或产品责任法的豁免,以便他们能够按自己的节奏进行研发。
黄俊杰也部分认同信中的观点,尤其是关于第三方安全审计的重要性。他表示,英伟达将大约80%的研发资源用于产品的验证工作,而只有20%用于产品设计;而目前大多数实验室的情况恰恰相反——它们将80%的资源用于提升产品的功能或性能。他预计这种平衡会发生变化,并认为用于产品评估的计算资源未来可能会增加十倍。
谈到杰弗里·辛顿(Geoffrey Hinton)关于“人工智能可能导致社会毁灭”的预测时,黄俊杰认为这种观点缺乏科学依据:“我认为杰弗里的说法是不负责任的。”他还举例说明了辛顿之前提出的“停止培训放射科医生”的建议是如何被证明是错误的。
黄表示,过度恐慌的情绪正在损害整个行业的发展,包括人们对数据中心的支持。克莱因提醒他提到了“All-In Summit”会议:在那次会议上,特朗普总统通过电话表示对人工智能的担忧纯属无稽之谈,黄也在现场表示了赞同。
克莱因则一直持反对意见。他以2008年的金融危机为例,指出仅靠法律责任并不能阻止企业继续冒险行事。“我不信任这些企业,”他对黄说。
关于Hugging Face及其开源模型的收购,克莱因估计Nvidia收购Hugging Face的交易金额约为120亿美元。黄透露,Hugging Face的首席执行官克莱门特·德拉格(Clément Delangue)之所以联系Nvidia,是因为该公司需要扩大规模。克莱因还询问Nvidia是否会针对Hugging Face在被收购后可能遭遇的黑客攻击采取法律行动,黄表示Nvidia会考虑所有可能的应对措施。
克莱因指出,开源模型在AI领域中的占比已从年初的约20%上升到了现在的约70%;他还估计Nvidia在AI领域的总投资达到了约1000亿美元。
黄此前曾表示,如果研究机构感到自己无法掌控局面,就应该适当调整发展节奏。在这次采访中,他再次强调:没有必要将AI发展视为与中国之间的竞争。