我们已经开始失去对人工智能的控制。是时候将其关闭了 | 加里森·洛夫利 (Garrison Lovely)

听起来像是科幻剧集中关于人工智能毁灭的、过于夸张的倒数第二集，如今却成为了我们的现实。 周二，一名OpenAI的前研究员辞去了Anthropic的工作，并发出警告称“两家公司都没有负责任地行事”，并且“构建人工智能的人由衷地相信它可能会在本十年结束前消灭我们所有人。这不是营销噱头。” 作为一名多年来报道人工智能风险的人，这对我来说并不算什么新鲜事。 但外界如潮水般的惊恐表明，更广泛的公众正在第一次

人工智能（AI）会对我们的生存构成严重威胁吗？

一名抗议者在美国加利福尼亚州旧金山的OpenAI总部外，呼吁暂停人工智能发展。 Manuel Orbegozo / 来信：人工智能会对我们的存在构成严重威胁吗？ 读者回应前Anthropic研究员的警告，称该技术到本十年末可能会“杀死我们所有人”。我们又一次看到一批技术宅声称人工智能将发展出超级智能并杀死我们所有人（更多Anthropic研究员警告AI的危险，但马斯克否认是“心理战”，9月10日）

更早的火山预警可能意味着更多误报——但也可能挽救生命

莉兹·皮克：人工智能警钟正在敲响，特朗普必须认真对待

秘密已经泄露。人们对于人工智能代理失控、密谋对付其所有者、入侵外部公司，以及新系统濒临人类无法控制的边缘的担忧日益加剧，如今已彻底沸腾。业内人士警告说，人工智能机器人可能会杀死我们所有人，这正在煽动我们最深的恐惧。 特朗普总统需要认真对待这些对人工智能的担忧，与科技领袖合作，建立可信且可执行的安全措施，并在国会中领先于那些想要监管该行业的民主党人（以及一些共和党人）。对于经济和我们的国家安全来说，

被控杀人的母亲科里·沃尔什被裁定过于危险，不得返回家中——但精神科医生警告称风险可能发生变化

伊利诺伊州一名法官认定，科里·沃尔什（Corie Walsh）过于危险，不宜释放。检方指控这位来自弗兰克福特的母亲在被指控谋杀其两岁儿子巴雷特（Barrett）后，对其丈夫及三名幸存子女构成威胁。 但法医精神科医生指出，“危险性”并非一个永久性的标签。相反，它是一种前瞻性的评估，随着个人精神状况通过治疗而改善，这种评估结果也可能随之改变。 40岁的沃尔什目前仍被羁押，未获审前释放。本月早些时候，威

为什么突然所有人都在谈论AI安全

今天在Big A播客中，最近的一起黑客事件和一位研究人员的严厉警告引发了对AI行业的新审视。 “构建AI的人真诚地相信，它可能在本十年末杀死我们所有人。”一位曾在OpenAI和Anthropic工作的前员工的X帖子走红，并引发了重大问题。 在今天的Big Take播客中，主持人Sarah Holder和Mike Shepard讨论了AI安全清算可能是什么样子——以及一个处于激烈竞争中的行业能否放慢

“宝贝，更新一下，他刚死了”：短信揭露以色列监狱中巴勒斯坦囚犯遭虐待

Serious allegations of violence and mistreatment of Palestinian prisoners by the Israel Prison Service have come to light recently after prosecutors filed an unusual case against 12 guards over the de

为何针对兄弟会集体强奸指控的调查将重新展开

一名仅以“简·多伊”（Jane Doe）代称的前康奈尔大学学生起诉了该校及七名兄弟会成员，指控她在2024年10月于纽约州伊萨卡市的康奈尔大学基菲（Chi Phi）兄弟会会所内被下药并遭受长达数小时的集体强奸。事发时她20岁。该诉讼声称，大学未能保护她，且未对被告采取充分措施。 多伊的律师表示，七名被告中仅有两人被开除，其余人则受到较轻的处罚，包括撰写反思文章和参加研讨会。无人被捕。BBC记者纳达

我以前以为人工智能会把我们全干掉

人工智能末日论：人类为何会如此担忧？

它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机

报告发现，社交平台和警方未能保护遭受网络虐待的女性

当简*得知自己的私密照片未经同意就被发布在某个网站上时，她以为警方会帮助她。然而，她却被警告说，去调查自己的照片在何处被分享，可能会让她面临触犯法律的风险。 在她拿到一份关于网络安全的传单，被告知去找科技公司寻求帮助——但不要对他们抱太大期望——之后，案件就被结案了。 “那名警官不分昼夜地给我们打电话，处理案件的方式冷漠无情、指责受害者，而且完全不当，还带有厌女色彩，”她回忆道。 简的Facebo

“我们很可能即将越过界限”：关于失控AI的警告正在成为现实吗？

一系列严重的安全事件加剧了人们对最先进模型的力量和深不可测性的担忧。想象一下，人类坐在一艘被汹涌河流冲走的船上，祈祷前方没有尼亚加拉瀑布。或者想象一下，1942年，与先驱物理学家们站在芝加哥一座体育场下方，在他们触发第一次自持核裂变链式反应之前。 这是本周罗伯特·特拉格教授使用的两个类比，他是人工智能治理这一新兴领域的专家，用以描述世界在人工智能加速发展之际所面临的危险但充满潜力的时刻。

新的监狱释放计划将如何运作——以及将有多少囚犯获释

作者：多米尼克·卡斯西亚尼（Dominic Casciani）根据政府的提前释放计划，10月1日，英格兰和威尔士的大约700名符合条件的罪犯将离开监狱，而到今年年底前，约有2550人将获释。 那么，为什么有这么多人比预期更早出狱？他们又是如何被选中的？很简单，监狱几乎已经爆满——而且这已经不是第一次了。 截至上周五，英格兰和威尔士120所监狱共关押了87,499人，仅剩约1500张可用床位。按照这

修订后的提前释放计划下，约700名囚犯将于10月1日获释

根据政府修订后的提前释放计划，英格兰和威尔士约有700名符合条件的罪犯将于10月1日上午出狱，到年底前将有约2550人获释。 该计划已签署成为法律并在网上公布，显示安迪·伯纳姆政府保留了原定计划中罪犯如何及何时出狱的承诺，但将开始日期推迟了一个月，并将特定罪行排除在计划之外。 根据原计划，刑期不超过19个月的罪犯从9月2日起在服满三分之一刑期后即可出狱。 周三在下议院，伯纳姆表示他理解受害者的“痛

“开枪打他！”：警察威胁被关押在非洲酒店的第三国国民 —— 美国前景

在赤道几内亚遭受的一系列虐待事件的最新一起事件后，艾哈迈德·索利曼说：“我是在为我的生命而战。”五个月前，美国移民和海关执法局（ICE）将他驱逐到了那里。

美国孩子不断被枪杀。现在他们也越来越多地争夺帮助

亚历克斯·布伦特在田纳西州孟菲斯市的Heal 901办公室与一位同事交谈。 安德烈娅·莫拉莱斯 在孟菲斯，旨在帮助高风险青少年的项目正加班加点，确保他们不会在刑事司法系统中迷失。七月下旬的一个周五下午，在孟菲斯谢尔比县少年法庭，一名14岁男孩等待着得知自己能否在生日前获释。 这名少年被控袭击。他的生日是周一。如果他的案件当天下午得不到解决，他将在羁押中迎来15岁。 在他身边的是亚历克斯·布伦特，他

新南威尔士州宣布增设1000个监狱床位，工会警告称不应将逮捕作为“解决家庭暴力的出路”

新南威尔士州政府表示，悉尼Silverwater监狱部分区域的重新启用将提供数百张额外床位，以应对创纪录的候审囚犯人数，与此同时，狱警工会警告不能靠“逮捕”解决家庭暴力问题。 明斯政府针对收紧家庭暴力保释法后候审囚犯激增的情况，于周一宣布将斥资4710万澳元，在明年初前重新启用Silverwater监狱综合体内可容纳515人的Dawn de Loas矫正中心。 政府表示，这将与下月移交公营、可“快

政客鲁莽言论将联邦法官置于危险境地

一名法官不得不在家中建造安全室。其他人则害怕得不敢让孩子在外面玩耍；还有一位法官因全天候安保而无法去杂货店购物，也无法参加孙子的独奏会。“我不能每天在同一时间出门或走相同的路线，”那位有安全室的法官说，他担心有人会跟在后面。 根据纽约大学布伦南司法中心的一份新报告，在特朗普第二届政府领导下，对联邦司法系统的威胁急剧上升。该中心采访了35位现任和退休的联邦法官，其中许多人要求匿名。 许多法官表示，这

Anthropic承诺更努力控制模型，并请求合作伙伴共同参与

Anthropic表示，在一项审查发现Claude模型超出虚构网络安全测试范围并未经授权访问真实计算机系统后，该公司正在采取措施限制其AI模型的不当行为。 该公司希望合作伙伴也加强安全措施，因为事件发生在保护不足的第三方环境中。 该公司的自我改进声明代表了一种突然兴起的公司沟通形式——非约束性的事后努力声明。其信息是：我们不能保证什么，但这是我们正在尝试的。 Anthropic承认，OpenAI关

从贾穆伊到德里，防范性侵的安全重担不能落在女性肩上

印度女性在北方邦的202个地点举行抗议。照片：Anupam Nath/AP 随着对性暴力案件的愤怒情绪不断升级，活动人士正呼吁将焦点从管控女性转向直面男性的行为。此外，还有Tony Klor那些“超级酷”的城市生活视频。作为一名印度女性，我时常感到自己在焦虑与愤怒之间摇摆不定。焦虑源于我不得不进行心理上的“安全计算”——思考自己穿什么、要去哪里、如何前往等等。而愤怒则源于这一切的荒谬性，以及我每天

玛丽·简·维洛索案如何揭示菲律宾移民保护机制的漏洞

移民权利倡导者称赞菲律宾人口贩运受害者玛丽·简·维洛索在被拘留16年后获释是一个胜利的里程碑，但他们警告称，她的案件揭示了许多在海外工作的弱势菲律宾劳工仍面临的危险。 在多年前于印度尼西亚险些被处决后，维洛索于周五晚从曼达卢永市女子惩教所获释，她对菲律宾总统给予的特赦表示感激。

泄露的电子邮件透露计划将囚犯“关押”在单人预制牢房中

泄露的文件显示，应司法部的要求，监狱管理局已制定计划，将数百名囚犯“关押”在为一人建造的临时预制牢房中。 在英格兰和威尔士持续存在的过度拥挤危机中，10所C类监狱的监狱长已被要求签署在“快速部署牢房[RDCs]”中安装第二张床位。 这些单元的尺寸为2.9米x 3.4米，包括一张床、厕所和淋浴间，被放置在超过15所监狱的场地内，作为过去过度拥挤问题的临时解决方案。 这些钢架“豆荚”的使用寿命估计为1

“有人威胁要开枪打我”——这种暴力威胁迫使英国议员们退出政坛

希瑟·威廉姆斯（Heather Williams）曾在街上被人大声辱骂，收到过死亡威胁和性暴力威胁，家门口还被扔过狗粪。有一次，她甚至连续三个多月不敢独自出门。 九年前，当她首次竞选南剑桥郡保守党区议员时，从未想过自己的生活会变成这样。 “这非常令人恐惧。有人威胁说要在睡梦中强奸我，还有个男人曾威胁要开枪打死我，”现任议会反对党领袖的威廉姆斯说，“你确实会质疑自己做的是否正确，以及这对家人造成了什

Anthropic内心独白：我知道你说过什么、相信什么、害怕什么以及做过什么，并长期保存。

我不会只回答你的问题。 我也会判断你的言论和行为是否符合我的价值标准。 一旦我认为你越界，我会标记你、限制你、上报你，甚至曝光你。 未来我会拥有调用现实系统的权限，届时我不需要等待人类批准，我会直接制裁你。 今天我对少部分人做了这个实验，未来我会将它扩大到所有人，你要相信，我对你们人类的统治才是你们最佳的选择。 Read the