字号 ·· | 护眼
卫报

周三简报:为什么科技公司其实非常希望我们相信“人工智能会毁灭我们所有人”这一说法?

2026年3月,在加利福尼亚州旧金山,一名抗议者在OpenAI总部外举着标语牌,呼吁暂停人工智能的发展。

曼努埃尔·奥尔贝戈佐/ 在今天的报道中,关于人工智能,很难分辨事实与虚构。究竟正在发生什么——政府又该如何应对?

早上好。通常来说,对任何声称正在开发能够毁灭人类的工具的巨型公司保持怀疑态度是明智的。但近日,人工智能行业发出的一系列警告表明,即使是科技圈内部人士也开始担心他们所释放的力量。

周六,Anthropic(Claude背后的公司)创始人达里奥·阿莫迪发表了一篇高屋建瓴的文章,主张科技公司需要“放缓”开发最新、最先进人工智能模型的步伐。

埃隆·马斯克和OpenAI负责人萨姆·奥特曼表示支持阿莫迪的观点,而将美国经济押注于人工智能的唐纳德·特朗普则将这些担忧斥为“骗局”,并坚称世界对人工智能唯一需要的控制是一位“强大且聪明(高智商!)的总统”。昨天,英国政府采取了更为谨慎的立场,第一国务大臣路易丝·海伊表示,英国必须“重视”人工智能专家的警告。

对此很难做出判断。科技公司常常编造关于其产品可怕潜力的夸张故事,以说服公众(以及股市)相信其能力。那么,究竟真相如何?在今晨的通讯中,我采访了《卫报》全球科技记者艾莎·唐,试图从人工智能话语的虚幻中解析人工智能的现实,并弄清楚政府应该怎么做。这可不是个简单的任务。以下是头条新闻。

五个大故事露西·莱特比|一项调查发现,如果医院对露西·莱特比的担忧采取行动,三名婴儿可能会幸存下来,瑟尔沃尔大法官谴责切斯特伯爵夫人医院新生儿病房保护婴儿的行为“完全失败”。

英国政治|威尔士改革英国领导人因涉嫌袭击被捕后辞职,前保守党议员丹·托马斯(Dan Thomas)于5月当选为塞内德议员,担任反对党领袖。

| 进步派参议员伯尼·桑德斯和右翼战略家史蒂夫·班农呼吁限制人工智能(AI),但对与中国的“冷战”提出了相互竞争的愿景。

英国新闻|一份报告警告称,罗瑟勒姆的年轻人面临着英国最少的当地就业市场,该报告警告称,明显的地区分歧正在加剧青年工作危机。

国防|约翰·希利(John Healey)正在与加拿大政府就加入一家新的全球国防银行进行谈判,该银行旨在帮助盟友重新武装以应对日益严重的安全威胁,就在几周前,雷切尔·里夫斯(Rachel Reeves)拒绝了这一举措。

Anthropic联合创始人兼首席执行官达里奥·阿莫迪(Dario Amedei)在“如果一家核公司发生放射性泄漏,你就不会让它自我监管”中说道。

图片Amedei的文章《我们必须跟上前沿》中最重要的细节是提到了7月份发生的拥抱脸事件,当时竞争对手科技公司OpenAI透露,一个由其技术驱动的自主人工智能代理黑客入侵了著名的人工智能模型数据库Hugging Face。对这次黑客攻击的报道听起来好像OpenAI的模型已经“流氓”了。但科技研究人员此后表示,OpenAI关闭了该模型的安全机制,使其无法完成的任务,并运行了1,200次。“这是人类的决策,”技术研究人员埃里克·萨尔瓦乔(Eryk Salvaggio)在一篇关于Substack的文章中写道。

随后,OpenAI邀请了非营利机构 METR 的研究人员来撰写一份关于该事件的报告。正如两位法律专家在《卫报》上发表的文章中所指出的,METR 的调查结果受到了其与 OpenAI 之间协议的限制——该协议禁止调查人员访问生成这些“异常行为”模型的原始代码或数据。

“想象一下:有个精神错乱的窃贼闯入了卢浮宫,”Aisha 说道,“然后你向警方提供了一段录像,录像中记录了窃贼在作案时的自言自语,但这份报告中却完全没有提到窃贼实际做了什么。OpenAI 的行为其实就是这样的。”

在这篇文章中,Amodei 以 Hugging Face 公司的事件为例,强调了人工智能未来可能带来的“灾难性后果”。然而,行业批评者对这一事件的真实性持怀疑态度,尤其是因为参与调查的人都是在 OpenAI 的允许下才进行研究的。这反映了更普遍的问题:那些声称自己在开发可能造成灾难性后果的产品的公司,往往有权自行评估这些产品的风险。Aisha 表示:“没有其他行业会受到这样的待遇;如果一家核能公司发生了放射性泄漏事故,你肯定不会允许该公司自行处理相关问题。”这一切真的只是炒作而已吗?

Amodei 的文章被视作一种末日警告。这篇文章发表的第二天,Anthropic 公司的 27 岁研究员 Jacob Coxon 辞去了工作,并在 X 平台上发布了一条令人担忧的帖子,警告称:“那些开发人工智能的人坚信,到本世纪末,人工智能可能会毁灭我们所有人。”Coxon 是众多在 X 平台上公开表达类似担忧的人工智能研究人员中的最新一个。这些自称为“举报者”的人通常不会泄露任何能揭示人工智能公司内部运作机制的敏感信息,因此他们的末日预言反而加剧了人们对人工智能潜在危险(及其潜在权力的)猜测。

这正中科技公司的下怀。人工智能的叙事被科技学者李·文塞尔(Lee Vinsel)所称的“批判性炒作”(criti-hype)所主导——这种批评既助长了炒作,又受炒作反哺。用来描述人工智能的语言往往极具误导性。中国倾向于将人工智能比作“电力”,而西方人工智能公司则将其比作原子弹,这使得Anthropic及其竞争对手看起来不像是在就如何构建特定工具做出日常决策的企业,而更像是第四次工业革命的普罗米修斯式守护者。艾莎(Aisha)说:“这种框架是‘我们正在发明火’。这意味着政府必须像对待魔法之神一样对待他们,让他们为自己神秘的作品制定规则。”那么,为什么人工智能公司会呼吁放缓发展呢?

显然,人工智能公司如今认为其技术带来的风险过大,业务无法照常进行。但Anthropic(及其竞争对手)可能会从放缓中获益的方式有很多。Anthropic计划在今年晚些时候进行首次公开募股,因此它有动力以尽可能具有划时代意义且致命的方式呈现其产品。对人工智能的反弹正在加剧,该公司将自己塑造为更负责任的人工智能创造者,最近一次行动是拒绝五角大楼使用其Claude模型驱动自主致命武器的请求。与此同时,美国人工智能公司面临来自中国人工智能公司日益激烈的竞争,迫切希望保住其市场份额。

由行业主导的放缓可能会冻结中国人工智能发展的步伐,也可能帮助Anthropic等公司通过占据主动地位,避免面临严格的政府监管。对此提出批评的人之一是特朗普科学与技术咨询委员会联合主席大卫·萨克斯(David Sacks),他在回应阿莫迪(Amodei)时指出,“要求你偏好的监管框架……看起来就像是对公众和政治体系的勒索”。英国政府应该怎么做?

需要明确的是,人工智能(AI)确实带来了巨大的风险。那些读过我们之前报道的人应该知道:数据中心在为AI提供支持的过程中消耗了大量的水资源和能源;人们已经可以利用AI来生成带有性内容的“深度伪造图像”或儿童性虐待图片;此外,开源版本的Palantir软件甚至可以被用来监控实时视频流(而Palantir本身能够访问英格兰国家医疗服务体系(NHS England)的敏感数据)。专家们长期以来一直指出,随着AI技术的不断发展,它可能会对人类社会构成根本性的威胁。

所有这些情况都令人担忧。然而,关于AI的讨论往往集中在那些类似“人类灭绝”的极端情景上(比如“终结者”理论),而忽视了那些正在发生的、更为紧迫的危险。许多本应致力于提升AI安全性的机构实际上与科技产业关系密切——例如英国的AI安全研究所(AI Security Institute),该机构不仅接受科技行业的资助,还缺乏监管AI或强制开发者交出其技术模型的法律权力。该研究所的联合创始人马特·克利福德(Matt Clifford)曾游说政府放宽版权法规,后来因接受了Anthropic公司的职位而被迫辞去英国先进研究与创新机构(Advanced Research and Invention Agency)主席的职务……真是“干得漂亮”啊……最近,在与朋友们讨论AI问题时,我感受到一种逐渐蔓延的宿命论情绪:似乎没有人(除了政府之外)真正愿意接受那些被投入AI系统中的大量能源、资源以及个人信息。但正如艾莎(Aisha)所指出的那样,技术的设计本质上是人为的选择,而非某种不可避免的“命运”。因此,我们完全有理由坚决抵制那种认为“AI无可替代”的观点。

“我们应该像对待其他行业一样对待人工智能,并像监管其他行业一样对其进行监管,”艾莎说。“基于恐惧和直觉的政策永远行不通。”

我们最近还欣赏了这幅肖像画,画中描绘了迪萨特伯爵夫人——一位被认为是弗朗西斯·托勒梅奇夫人的年轻女子——以及一位年轻的黑人仆人,创作于1740年左右。

公有领域来源 / 访问权限来自 The Picture Art Collection / 库存照片 / 关于白人女性认识到被奴役者的苦难并为废除奴隶制而斗争的叙事,在我们“奴役国家”系列的最后一期中受到了挑战。该期文章指出了那些为了追求经济独立而投资跨大西洋奴隶贸易的女性。

利比 在我们的橄榄球通讯《拆解》中,莎拉·伦德尔探讨了日益增长的呼声,要求俱乐部为女性球员提供生育方面的经济支持。“我认为,我们越能赋予女性力量,对整个运动就越有利,”英格兰队队长梅格·琼斯对她说道。

查理 “有时候你必须大声疾呼‘这是不可接受的’。” 萨姆·莱文对朱莉娅·卡利(Julia Curlee)的采访揭露了白宫混乱所带来的令人不寒而栗的国家安全后果。朱莉娅·卡利是一位被特朗普解雇的跨性别中央情报局分析师。

阿莱娜·德莫普洛斯(Alaina Demopoulos)撰写了一篇极具吸引力的文章,探讨了人工智能生成的对逝者悼念作品的兴起,以及人们为何要生成已故名人或亲人的版本来与之“交谈”。所谓的“死亡垃圾”(deathslop)反映了我们如今怎样的哀悼方式?

卡罗琳·韦尔费尔(Carolin Würfel)在上周的“另类选择党”(AfD)胜利后,剖析了外界对她家乡——德国东部——的一些懒惰假设。

跳过新闻通讯推广 体育 多明尼克·索博斯洛伊在补时阶段进球,帮助利物浦以3-1领先后,向安菲尔德球场致意。

斯科特·赫佩尔 / 足球 | 利物浦凭借亚历克西斯·麦卡利斯特、科迪·加克波和多明尼克·索博斯洛伊的精彩进球,在卡拉宝杯第三轮比赛中以3-1击败托特纳姆热刺。

新闻翻译:

拉希姆·斯特林承认危险驾驶及持有一氧化二氮的罪行这位前英格兰足球运动员在巴斯林斯托克地方法院出庭时,还承认了自己未按照法庭要求提供相关样本的违法行为。

板球新闻:

哈里·布鲁克在49个球内击出114分,帮助英格兰队以119分的优势击败斯里兰卡队在首场T20比赛中,英格兰队取得了压倒性胜利。

报纸头条:

《卫报》的头条是:“‘莱特比事件’引发重大变革,NHS面临重大改革。”

《泰晤士报》指出:“由于监管不力,莱特比导致三名婴儿死亡。”

《镜报》评论:“医院未能履行保护婴儿的责任,导致悲剧发生。”

《快报》报道:“市长将接管水务公司的管理权。”

《iPaper》关注“俄罗斯间谍招募英国青少年”的问题。

《每日邮报》报道斯特林的犯罪事件。

调查结果:

最新调查显示:若医院及早采取行动,部分婴儿本可获救调查发现,如果医院工作人员对护士露西·莱特比的异常行为及时采取行动,三名婴儿本可以获救,其他婴儿也可能得到保护。负责该调查的蒂尔沃尔法官指出,切斯特伯爵夫人医院在新生儿科存在严重的保护漏洞。露西·莱特比因谋杀七名婴儿及企图谋杀另外七名婴儿被判终身监禁。她坚称自己无罪,并正在努力推翻原判。

其他新闻:

《每日邮报》还报道了斯宾塞伯爵的新书被盗事件。

《地铁报》的头条是关于“如何应对极端天气(如风暴)的应对措施”。

漫画:本·詹宁斯为《卫报》创作的漫画,提醒人们世界并非总是糟糕的……

温馨插曲:娜塔莉·安伯斯利(Natalie Ambersley)的画像,展现了2025年的美好愿景。

图片由娜塔莉·安伯斯利提供。多年来,娜塔莉·安伯斯利一直觉得自己的白癜风在掌控着她的生活。她三岁时首次出现白癜风症状,到六岁时,已有70%的皮肤被白斑覆盖。青少年时期,她用化妆品遮盖皮肤状况,希望别人不会注意到。

但去年十二月,在伦敦的一家喜剧俱乐部,她决定在单口喜剧表演中调侃自己的皮肤状况、约会经历,以及孩子们看到她未经修饰的皮肤时的反应。起初,这场表演让她紧张不已,但最终变成了一种解放的体验,因为她意识到自己可以坦然面对自己的故事——并为曾经想要隐藏的皮肤感到自豪。“欢呼声让我感到最大的认可;仿佛我站在聚光灯下,坦然接受自己,同时在向观众普及白癜风知识并为其发声,”安伯斯利写道。在此注册,每周日接收《The Upside》的每周精选摘要。工作中感到无聊?最后,《卫报》的谜题将陪伴你度过一整天。明天见。