关键观点：围绕人工智能（AI）模型构建的基础设施，对于AI的安全性而言，其重要性丝毫不亚于模型本身——甚至可能更为关键。Nvidia负责自主式AI（agentive AI）业务的副总裁Adel El Hallak向Semafor表示：“与其制造恐惧和虚假信息（FUD），不如切实采取措施来保障AI的安全。我们知道该怎么做，因为我们之前已经成功处理过类似的问题。”

El Hallak的论点从技术角度解释了为何对AI的悲观预测可能被夸大了（而非从地缘政治或意识形态的角度）。

更多细节： Nvidia首席执行官Jensen Huang已成为科技界最直言不讳的怀疑者之一，他质疑Anthropic首席执行官Dario Amodei等人的观点——后者认为AI实验室应减缓模型开发速度，因为AI技术的发展速度已经超出了企业的监管能力。自主式AI之所以令人担忧，是因为它们能够自主采取行动；不过，目前关于自主式AI的监管措施相对较少，更多讨论的是对AI模型的整体监管机制。

Huang本周明确表示：“科技行业完全可以同时兼顾安全与发展速度。”他认为，随着AI模型的不断进步，“控制机制”（即用于规范AI行为的指令和代码）变得愈发重要。他举例说：“如果你训练的是一个具有自主能力的AI系统，就不能把它放在‘马厩’里（即缺乏适当控制的环境）里，还指望能够完全控制它。”

虽然El Hallak未对政府是否需要监管自主式AI系统发表评论，但他提到了像“开放安全AI联盟”（Open Secure AI Alliance）这样的行业倡议，认为这些组织可以探讨“在系统的哪个环节需要加强安全性、设置更多防护措施”。

分歧存在：华盛顿的一些人士认为，科技公司无法独自承担这些责任，需要政府的介入来确保AI技术的健康发展。

“这绝不是一个能够实现自我监管的行业，”民主党众议员皮特·阿吉拉尔（Pete Aguilar）本周表示，他主张有必要针对人工智能安全制定联邦层面的全行业规则。