观点 不久之前，比如今年早些时候，AI领袖们还在像往常一样做出不切实际的承诺，宣称AI将带来多么美好的未来。

Anthropic CEO Dario Amodei在推特上表示，AI“实际上将有可能在5-10年内治愈大多数人类疾病”。

在一次播客中，OpenAI CEO Sam Altman宣称AI将创造“我们从未见过的、人们创办小型企业的最大繁荣”。那么，有什么不喜欢的呢？

嗯，你会发现这些AI CEO/啦啦队长们也在巧妙地承认AI并不那么安全。

例如，Altman最近承认，“模型能力正在超越安全和对齐的步伐”。

与此同时，Amodei也表示，“我担心生物学将具有强烈的攻击者-防御者不对称性，足够强大的模型可能能够利用广泛可用的材料迅速将大流行级别的病毒武器化。”他们并不是唯一有疑虑的AI支持者。今年早些时候，无需介绍的比尔·盖茨称自己为AI乐观主义者。八个月后，他改变了论调。

现在盖茨担心AI可能成为“最严重的不公正来源”，并且当前政策正使世界走上“极有可能出现净负面结果”的道路。

盖茨最近宣称，“如果世界采取正确步骤，AI将成为一股向善的力量，让每个人都过得更好。”但“现在我们没有为此做好准备。

我没有看到证据表明领导者、专家和社区正在充分应对这些挑战。”可以肯定的是，AI公司表示他们正在采取措施使AI更安全。

例如，OpenAI最近推出了面向青少年的ChatGPT，以保护青少年免受自杀、自残和色情聊天内容的影响。是的，祝你好运，让青少年远离不当内容。

这并没有阻止我，当我们对性感事物的想法是《花花公子》杂志时；它也不会阻止今天的青少年。

此外，正如我的同事Mike Elgan所写，“青少年版ChatGPT是一种认罪……[OpenAI]知道哪些功能和属性会导致脑腐、成瘾和依恋——而且……它知道如何关闭它们。”但它不会关闭它们，因为“脑腐是有利可图的”。我有什么资格争辩？

Grok，尽管埃隆·马斯克抗议，仍因其在深度伪造色情内容中的使用而陷入法律麻烦。一项德国调查发现，30%的人承认使用AI进行性目的。正如歌曲所唱，“互联网是为了色情”，AI也是如此。当然，Mike假设OpenAI可以关闭其令人反感的内容。我不太确定。

ChatGPT for Teens做出了安全承诺，但没有证据表明其年龄检查、护栏、警报或学习功能实际上有效。

正如《高级AI安全国际科学报告》所述，“几种技术方法可以帮助减轻风险，但目前没有已知方法能对通用AI相关的危害提供强有力的保证或保障。”

除了AI已经能造成的损害，AI代理的兴起，其能力不仅限于回答问题，还能使用浏览器、代码库和数据库执行多步骤任务，为损害开辟了无限的新可能性。

2026年《国际AI安全报告》警告说，代理构成更高的风险，因为它们可以在没有任何人工干预的情况下自主操作。

这意味着它们可以被用于欺诈、错误信息、隐私侵犯、偏见结果，甚至攻击其他模型。这很棒还是什么？

让我们谈谈美国政府已邀请OpenAI、Anthropic、Google和Meta本月参加白宫会议，讨论在发布最先进AI模型之前进行自愿政府安全测试。

但谁认为那些想入侵格陵兰的人能对AI安全提出任何有价值的意见？

比不受控制的AI更危险的唯一事物是受技术上无知者控制的AI。现在，有一些使AI更安全的努力，我比政治失误更乐观。

例如，英伟达和Linux基金会支持的开放安全AI联盟提出了一个框架，即共享AI发现交换（SAFE），用于机密共享与代理相关的网络安全事件和未遂事件。不过，这仍处于征求意见阶段。它远非可操作的政策。我们太慢了。我们今天拥有的AI已经足够危险。

多年来，关于AI安全的争议常常分为两类：一类关注近期危害，如歧视、监控、失业和错误信息；另一类警告遥远的未来场景，其中高能力系统逃避人类控制。明天就在这里。这种分歧正在缩小。

盖茨担心我们面临三个主要问题：许多工作将永远消失；AI将赋予人们（也许还有AI）更多伤害能力；AI可能阻碍我们孩子的发展并取代人际关系。我以前常说，盖茨和我唯一同意的是我们都喜欢西施犬。现在我们也在AI的危险上达成一致。问题不再是AI能多快改变社会。

而是社会或AI公司能否建立必要的技术保障、经济保护和公共机构来跟上它。

盖茨呼吁美国领导人“立即行动，在失业率急剧上升、社区受到伤害、公众信任被侵蚀之前。

你可以确保你的政府整体处理这个问题，而不是将其分割成多个官僚领地。你可以确保AI惠及所有人。你可以与其他政府合作应对这一国家和全球挑战。”祝福他乐观的心。在特朗普政府下，这根本不会发生。做好准备吧，各位。我们将经历一段疯狂的旅程。®