在Salesforce的Dreamforce大会上，Anthropic的Dario Amodei与英伟达CEO黄仁勋就人工智能安全问题各抒己见，而这场辩论在几天前才刚刚进入公众视野。

Amodei首先与Salesforce CEO马克·贝尼奥夫一同登台，出现在后者的年度主题演讲中。此前，Amodei在周末发表了一篇文章，呼吁行业放缓模型开发步伐。

“我认为这才是引领行业前进的方式，以身作则，表明每个人都可以不断进步，”Amodei周二在旧金山莫斯康中心对贝尼奥夫说道，现场约有12000名观众。

包括OpenAI首席执行官萨姆·奥尔特曼、SpaceX首席执行官埃隆·马斯克、谷歌DeepMind主席德米斯·哈萨比斯在内的行业高管，迅速对阿莫代伊的提议表示支持。此前，行业研究人员上周就人工智能可能造成灾难性危害发出警告。阿莫代伊提出了三步计划，以缓和模型能力的提升速度，同时不“牺牲商业优势或美国在人工智能领域的领先地位”。黄仁勋在阿莫代伊之后不久与贝尼奥夫一同露面，他持有不同观点。这位全球市值最高公司的首席执行官表示，市场力量已经存在，行业不需要新的法律或法规。黄仁勋还补充说，速度与安全并非互斥，不过企业应当放慢节奏，直到确信自己发布的产品会得到市场认可。

阅读更多CNBC科技新闻 阿莫代伊的AI放缓论对Anthropic即将进行的IPO可能意味着什么 Cohere首席执行官表示，AI模型正成为有史以来“最强大的网络武器” 中国称AI首席执行官们呼吁放缓是“散布恐慌”Anthropic的阿莫代伊称，中国给他提出的AI放缓主张带来了“最棘手的难题” “这是一个虚假的选择，”黄仁勋对贝尼奥夫说，“你完全可以在同一时间两者兼得。”黄仁勋表示，模型开发者有责任以负责任的方式使用他们的产品。

“尽可能快地跑，”他说，“但如果在任何时候你觉得公司失控了，或者产品将不再安全，那就停下来，确保把它做好。”一天前，黄仁勋在洛杉矶登上All-In峰会的舞台，其间接到了唐纳德·特朗普总统的电话。总统在免提通话中对那些试图阻碍AI数据中心建设的人表示担忧。“先生，我们不会让那种事发生的，”黄仁勋对特朗普说。

十多年来，Dreamforce一直是软件行业最重要的活动之一，吸引约5万人来到旧金山市中心，并占据其所在城市的大片区域。贝尼奥夫的主题演讲总是包含多位重量级嘉宾，往往是当时处于科技宇宙中心的人物。贝尼奥夫与黄仁勋和阿莫代伊都保持着长期关系。

周二，Salesforce和英伟达宣布为这家软件公司的Agentforce平台推出一款新的推理模型，该模型基于英伟达的一款开放权重Nemotron模型构建。上个月末，两家公司扩大了战略合作伙伴关系，并推出了“Claudeforce”，这是一种让销售人员能够直接从Anthropic的Claude聊天机器人内部访问关键数据的新方式。

关于模型公司应如何推进，贝尼奥夫周二告诉记者：“如果他们觉得应该放慢速度，那就应该放慢速度。如果他们觉得应该加快速度，那就应该加快速度。然后他们应该被追究责任。”

参议员马克·华纳呼吁AI领袖利用其影响力推动监管。选择CNBC作为你在谷歌上的首选来源，不要错过这家最值得信赖的商业新闻媒体带来的任何精彩时刻。