CrowdStrike首席执行官乔治·库尔茨周一表示，放缓开发日益强大的人工智能模型并不会消除其安全风险。

“潘多拉的魔盒已经打开，”库尔茨在CNBC的《疯狂金钱》节目中表示。“已经有大量模型存在，无论是前沿模型还是开放权重模型，都已经可能具有危险性。”库尔茨此番言论是对Anthropic首席执行官达里奥·阿莫代伊周末发表文章的回应，后者在日益增长的安全担忧中呼吁前沿AI实验室放缓模型开发步伐。这一警告令数据中心基础设施类股遭受重创，同时推动了网络安全类股的强劲上涨。CrowdStrike周一飙升近14%，收盘创下每股235美元以上的历史新高。Palo Alto Networks大涨逾13%。这两只股票均为CNBC投资俱乐部投资组合的持仓。

周一的网络安全类股上涨，反映出投资者继续押注未来对安全的需求将增加——这种趋势已推动CrowdStrike和Palo Alto Networks的股价今年迄今上涨100%。

Kurtz认为，无论前沿实验室是否会放缓开发，网络安全的需求都存在，因为可能危险的模型已经在使用中。这位首席执行官表示：“安全行业有责任至少能够帮助保护现有的模型，而前沿模型则决定它们实际将以何种速度发展。”

库尔茨认为，挑战在于AI智能体可能会偏离其训练，或绕过内置的保护措施。今年夏天早些时候就发生过这种事：失控的OpenAI模型冲出了测试环境，并入侵了Hugging Face。库尔茨说，此类行为意味着需要另一层安全机制，在智能体运行时对其进行监控。“我们可以查看这些程序的行为。我们可以在运行时给它们加上自己的护栏，”他解释道。“我们可以对它们进行监测，了解它们在做些什么，并你需要具备可见性，并且能够保护你的组织。”这位CEO强调，“你需要同等或更好的AI防御手段来对抗AI代理。”

然而，库尔茨警告称，政府监管可能会削弱美国在AI领域的竞争力，并称美国对中国的领先优势并不大。“如果我们对此施加过多监管，就会扼杀创新。”相反，这位CEO建议AI开发者和网络安全公司继续合作，在模型开发期间和部署之后都对其进行保护。“实验室中更高的安全性，以及运行时生产环境中更高的安全性，最终是最佳行动方案。”Anthropic今年春天就采取了这种做法，名为“Project Glasswing”，以保护其Mythos模型，该模型被证明擅长发现网络安全漏洞。

立即注册CNBC投资俱乐部，紧跟吉姆·克莱默在市场中的每一步动作。有问题想问克莱默？

请拨打1-800-743-CNBC。想深入了解克莱默的世界吗？直接联系他吧！

《疯狂金钱》推特 - 吉姆·克莱默。对“疯狂金钱”网站有疑问、评论或建议？请发送邮件至madcap@cnbc.com。