人工智能要么治愈癌症，要么毁灭人类。这正是近日业界爆发的一场充满恐慌情绪的辩论中那种两极分化的核心论点。而事实很可能远比这平淡，风险也比一些领先AI实验室的研究人员想让你相信的更可控。这是来自一群罕见的跨党派科技专家、行业领袖和政策制定者的观点，他们公开反对极端的AI末日预测。他们强调，AI主要是一种技术产品，而非有感知的生命或神明。所以，放轻松。凭借我们已有的资源和结构，世界完全能够应对AI。首先，有必要区分AI真正擅长什么和它在哪些方面力不从心。在某些数字环境中，AI异常强大。编程是最好的例子，网络安全是另一个。这些领域有明确的结果和快速的反馈——代码运行成功了吗？攻击得手了吗？
Outside these environments, things get less impressive — and less worrying. "Model capability is a tale of two cities, at one end the models are showing their prowess in tasks like cyber or math," Palo Alto Networks CEO Nikesh Arora wrote on X on Monday. "At the same time, in many domains, the lack of training data makes the models woefully inadequate." Ben Thompson made this distinction in his widely followed Stratechery newsletter on Monday. Killer AI robots would require massive physical resources. Humans control factories and materials, he wrote. Dire warnings about AI creating bioweapons face a similar They require physical labs and chemical compounds. Instead, recent bad AI behavior has involved agents breaking out of digital test environments and roaming the internet doing things they weren't told to do. That's concerning.但在我们大多数人生活的现实世界中，一切如常。汤普森认为，末日预言和放缓呼声的部分依据是一个有缺陷的假设，即AI在某种程度上正在成为有感知能力的实体。“有时很难摆脱这样一种感觉：科技界人士简直太沉迷于网络了，”他写道，“要让AI接触现实世界，离不开由人类操作、制造和控制的实体基础设施。”只要这一点成立，汤普森说他很难接受“基于一个尚未得到证实的前提”而制定的大范围新限制。在数字领域，一些科技领袖正在抵制那些可怕的警告。随着AI代理能够在互联网上自由活动，网络安全风险已经增加。阿罗拉的网络安保公司本可能从这种日益加剧的担忧中获益，但他却淡化了这一威胁。
“即使在网络等领域，大语言模型在处理边缘情况时表现也不佳，而且对防御方而言通常不经济，”他写道，指的是大语言模型。OpenAI首席科学家雅库布·帕乔基最近提出了一个反直觉的观点：放缓AI发展可能让事情更危险。“我认为继续快速训练更智能模型的最有力理由，是需要建立防御系统来应对其他AI带来的危险，”他在9月6日写道。然后，还有一种不那么新奇的方式来处理现有的危险法律。这正是特朗普的AI事务负责人戴维·萨克斯和前联邦贸易委员会主席莉娜·汗惊人地达成一致的地方。汗表示，公司和高管已经会因发布危险或有缺陷的产品而面临后果。
当企业未能设置充分的安全保障措施时，现有的消费者保护法可以适用于行为失当的AI模型和失控的智能体。她写道，一些州检察长“已经在探讨，当AI公司的模型参与犯罪活动时，追究这些公司及其CEO的刑事责任”。萨克斯提出了类似的论点。如果AI模型促成了灾难性的网络攻击，其制造商可能面临巨大的产品责任风险。客户也会惩罚不可预测的产品。你未必需要一套新的监管体系来给企业提供强大的激励，促使它们负责任地行事。萨克斯写道：“别再假装你需要一套凌驾于产品责任之上的监管审批流程了。”事实上，一些业内人士表示，这些末日警告可能有助于领先的AI公司在产品出问题时获得额外的责任保护。
第230条通过保护在线平台免于对用户发布内容承担大部分责任，帮助互联网行业蓬勃发展。人工智能公司对其模型的行为却没有同等的保护。该行业最新推动的监管努力可能创造出类似的东西。Anthropic首席执行官达里奥·阿莫代伊计划让外部安全研究人员进入公司，监督其人工智能开发和安全承诺。OpenAI首席执行官萨姆·奥尔特曼表示他的公司将效仿。投资者加文·贝克表示，独立评估可以帮助公司在未来的诉讼中证明它们在发布模型之前采取了合理的预防措施。“拥有第三方评估者是明智的，因为模型输出没有第230条式的责任保护，展示‘注意义务’在未来的诉讼中将很重要，”贝克写道。阿罗拉也强调了同样的激励因素。
他在文中写道：“与模型失控相关的责任，有可能抹杀任何前沿公司的经济机遇。”“如何最好地展现注意义务？你要表明你在意。如何确保你不会输给竞争对手？让他们也这么做！”在这里。请通过电子邮件abarr@businessinsider.com与我联系。