记者手记：对人类灭绝的担忧震动国会山，国会与人工智能正面交锋

国会议员本周回到国会山时，完全是一副抓狂的模样。人们设想着种种末日般的情景：AI 夺取供水系统控制权。地铁。空中交通管制。飞机坠毁。发射核武器。甚至把哈里王子和梅根·马克尔送回美国。 但说正经的，人们真正担心的是，国会可能在监管 AI 方面已经落后。还有人担心，AI 的发展速度可能太快，以至于已经来不及驾驭这项技术。长期以来，选民对数据中心的疑虑一直在发酵。 随后，前Anthropic研究员雅各布

AI恐慌在国会山引发罕见的两党共识时刻

希望……的立法者试图监管人工智能的人士正在做一件不同寻常的事，因为国会正驶向漫长的休会期，却尚未找到切实可行的解决方案。他们正开展跨党派合作。 尽管近期国会山的两党合作日益难觅，但它仍是参议院采取行动的关键第一步，因为该参议院通过大多数法案需获60票支持。 近日，两位参议员乔什·霍利（共和党-密苏里州）和理查德·布卢门撒尔（民主党-康涅狄格州）正敦促国会领导层就其建立联邦项目以评估和监控人工智能系

国会山议程：AI警报拉响后，国会并不急于行动

美国最强大的人工智能公司的高管们上周末一致认为，他们的行业需要放缓步伐——否则将危及人类安全。但国会未来几周内匆忙采取行动的可能性几乎为零。一个障碍是议员们周一返回前日程紧张，而众议院预计周五就休会，参议院已在考虑将三周会期缩短为两周。另一个障碍是任何计划都缺乏推动力。参议院商务委员会本月可能对人工智能立法进行标记审议，但多数党领袖约翰·图恩和参议员艾米·克洛布查尔推动的广泛两党人工智能安全法案能

奇普·罗伊即将离开国会——但在离开前警告同僚要认真对待人工智能的威胁

奇普·罗伊即将离开国会——但在走之前，他向同僚们发出了关于人工智能的警告。这位得克萨斯州共和党人通常不是轻易让步的人。但如今他说，自己正在苦苦思索人工智能的出现可能对我们所熟知的生活意味着什么。 众议员奇普·罗伊并非以温情脉脉的立法风格著称。但这位坚定的保守派在准备于年底离开国会之际，提出了一个棘手的哲学问题：人工智能的迅速崛起是否可能将人类的统治权拱手让给“没有灵魂的实体”。 这位得克萨斯州共和

一个老龄化的国会试图在不使用人工智能的情况下对其进行监管

国会议员和州长面临着越来越大的监管人工智能的压力，但其中二十多名与Axios交谈的人表示，他们没有使用该技术或很少使用该技术。 为什么这一惊人的承认--尤其是在年长、有影响力的立法者中--是在呼吁人工智能放缓之际做出的，并警告行业内如果不加以控制，人工智能可能会终结人类之际。 批评者认为，如果政客们不使用这项技术，甚至不理会它，他们就不可能了解这项技术的变化有多快，以及它可能释放的威胁或科学突破。

国会山议程：随着人工智能辩论转向，英伟达的影响力面临考验

作为全球最大企业的掌舵人，黄仁勋的影响力即将在国会山接受考验，因为围绕人工智能安全的辩论正在不断升温。英伟达首席执行官及其庞大的游说团队希望国会停止限制高端计算机芯片的出口，尤其是向中国出口，因为这些芯片是驱动人工智能发展所必需的基石。立法者可能会将这些监管措施纳入今年秋季即将谈判的年度国防政策法案中。尽管黄仁勋的团队在过去一年中成功说服部分立法者放松了可能阻碍出口的监管规定，但人工智能政治格局的

布鲁门撒尔表示，公众对人工智能的担忧正达到一个转折点

这位康涅狄格州民主党人承认公众对人工智能的担忧日益加剧，并敦促立法者将公众的担忧转化为具体的政策。 参议员理查德·布卢门撒尔周二表示，对人工智能风险的担忧已经引起了立法者的关注，公众正期待华盛顿采取措施来约束这项技术。 这位民主党人在未来生命研究所主办的华盛顿“亲人类大会”上表示：“我刚从康涅狄格回来，在我走遍全州的时候，很多人都在谈论人工智能，这是他们以前从未做过的。” 今年早些时候，一些人工智

特朗普与国会抵制日益增长的人工智能监管呼声

科技界领袖正就人工智能的迅猛发展及其对人类构成的潜在威胁发出紧急警报。随着警告称AI模型可能失控并导致人类灭绝，相关担忧已升至顶点，使该技术可能毁灭全人类的恐惧正式进入主流舆论视野。 为应对上述风险，包括OpenAI、Anthropic和Google DeepMind在内的AI巨头已展开安全对话，并致力于组建行业标准机构。随着业界日益担忧该技术可能很快变得强大到难以掌控，Anthropic与Ope

在科技之国的中心，选民对AI产生警惕

在科技产业的重心地带，选民们对人工智能持负面态度。根据 Politico 及其合作伙伴的最新民意调查，绝大多数加州选民认为先进的人工智能可能对人类构成威胁。 加利福尼亚州萨克拉门托——即便是硅谷的“后院地区”，也在为人工智能带来的潜在风险做好准备。 根据 Politico 及其合作伙伴的最新民意调查，加州选民对人工智能普遍持悲观态度，他们认为这项快速发展的技术对人类构成了严重威胁。这种担忧在加州这

实时更新：国会复会，人工智能成为首要议题

特朗普政府周一废除了限制燃煤和燃气发电厂导致全球变暖排放的法规。此举使该行业可以在不受政府监管的情况下排放温室气体。特朗普总统周一反驳了人们对人工智能日益加剧的焦虑，称美国不需要对人工智能施加进一步监管。“人工智能唯一需要的控制或‘护栏’，就是一位强大而聪明（高智商！）的总统，而美国在这方面绰绰有余！”他在Truth Social上发帖称。他还抨击了Anthropic首席执行官达里奥·阿莫代伊，后

选民们正在对人工智能安全觉醒。这些参议院共和党人也是如此。

选民开始关注人工智能安全问题。这些参议院共和党人也是如此。政治和生存风险已经促使至少三位共和党参议员采取行动应对人工智能问题。 共和党众议员已离开华盛顿直到11月份。唐纳德·特朗普总统将有关此问题的担忧称为"骗局"。但有几位共和党参议员正试图推动他们的党派采取行动——无论是什么行动——来应对人工智能问题。 除了名字旁边的"R"之外，将他们联系在一起的并不多。但乔恩·柯蒂斯、乔什·霍利和约翰·肯尼迪

人工智能安全辩论

关于人工智能的辩论已经席卷华盛顿

很少有事件能让伯尼·桑德斯（Bernie Sanders）和史蒂夫·班农（Steve Bannon）这两位政治立场截然相反的激进人物达成共识。但9月15日在华盛顿特区举行的“亲人类大会”（Pro-Human Assembly）——一场由对人工智能快速发展感到担忧的人士发起的集会——却做到了这一点。两人都对科技“寡头”不受约束的权力发出了警告，并呼吁紧急立法以放缓该技术的发展。 总统唐纳德·特朗普（

记者手记：国会面临一场“人工智能教父”警告其可能尚未准备好应对的危机

要了解关于人工智能日益强大的一些预测，人们可能会问AI聊天机器人，国会需要多久才能对这项技术进行监管。但你可能不需要这么做。 你只需向你信赖的国会山记者打听一下。我们不妨把这个聊天机器人称为“ChadGPT”。记者观察：国会遇上AI，人类灭绝的恐惧震动国会山。而且，要推测议员们何时可能着手处理AI，其实并不需要多么高深的国会预知能力——尽管有危机迫在眉睫的预测。你只需要对未来几个月国会的议事态势有

OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面

AI恐惧机器？

要观看此视频，请考虑升级到支持HTML5视频的网页浏览器。政治全球议题。 人工智能内部人士警告称，人工智能正在经历一场快速且失控的激增。现在是政府介入的时候了吗，还是我们已经无法掌控局面了？ Michael Kolain是一位科技律师，也是柏林数字权利与民主中心政策负责人。 Janosch Delcker是一位科技记者、作家和主题演讲人，同样常驻柏林。 Vanessa Vohs是欧盟“国防人工智能

研究人员警告2030年前人类灭绝风险，立法者抨击AI公司

Anthropic前员工Jacob Coxon表示，AI将成为‘超人类系统’，并可能在十年内导致人类灭绝。 就在三名Anthropic研究人员警告人工智能可能在本十年内毁灭人类的一天后，立法者开始猛烈抨击这一新兴技术的风险。 德克萨斯州共和党参议员特德·克鲁兹（Ted Cruz）在ABC电视台《The View》节目采访中表示，AI构成‘灾难性风险’，并称他‘读了那位开发者发布的整个推特帖子，这非

Jeffrey Sachs：特朗普面对AI危机就如盲人引路

美国总统所展现的，是一种将我们所有人置于严重危险之中的根本性无能。 周日，美国总统站在爱尔兰克莱尔郡的一座高尔夫球场上，被问及他打算如何应对我们这一代人所面临的最严峻科技警讯。美国正在击败中国。「我们在人工智能（AI）领域领先中国。我们是世界上最先进的国家，坦白说，我希望维持这种局面，因为谁掌握了AI，谁就赢了。」「有许多不该炒作这件事的负面势力在炒作，而且他们炒作的都是根本不会发生的事情。」试想

我们已被警告过人工智能——但它真的可能杀死人类吗？| 关于那件事

。 一位Anthropic的研究员Jacob Coxon因担心人工智能可能在未来十年内导致人类灭绝而辞职——随后出现了一系列警告。 Andrew Chang解释了“智能爆炸”可能带来的危险，这让人工智能行业的员工和专家们感到担忧。 （图片由The Canadian Press、Adobe Stock和Images提供）

英国议员对AI的混乱之夏感到恐慌

随着AI代理失控以及对超级智能的担忧加剧，政界人士正在就其对人类生存的潜在危害发出警告。

在分裂的美国国会难以采取行动之际，对人工智能的担忧日益加剧

华盛顿——美国国会于9月14日结束休会复会，面临紧迫警告：人工智能可能危险地失控——而对于华盛顿是否应该干预、或如何干预，各方几乎没有共识。 众议院在议员们踏上11月3日中期选举竞选之路前，仅剩四个立法日。而这些议员不仅跨越党派界限存在分歧，在各党内部也同样分裂。 参议院民主党领袖查克·舒默于9月14日要求为所有参议员举行一次机密简报会，内容涉及前沿人工智能测试、中国获取先进芯片的渠道，以及人工智

AI构建者警告这项技术威胁人类。国会却专注于数据中心。

当人工智能公司Anthropic的一位资深研究员上周警告称，未来十年内AI有大约10%的概率导致全人类灭绝时，美国公众开始关注此事。 如今，问题在于国会是否会予以关注——更迫切的是，是否会采取行动。 上周末，夏威夷州民主党参议员布莱恩·沙茨在社交媒体上写道，他和同僚必须“以威胁的速度前进，而非按我们自己的习惯和节奏行事”，从而“采取迅速的两党行动，切实降低AI风险”。AI的定时炸弹？阿里·梅尔伯谈

特朗普下周拟在白宫召集AI行业高管

人工智能（AI）安全和监管，这场源于对人类命运严峻警告的辩论，已在华盛顿和硅谷内部形成了两大阵营——以美国总统特朗普为首的“激进发展派”，以及以“AI三巨头”为首的“慢节奏派”。 AI安全引爆舆论这场舆论风暴最初是由Anthropic的研究员Jacob Coxon引发的。他上周宣布辞职，并指责该公司及其主要竞争对手OpenAI的行为不负责任。曾先后在这两家公司担任研究员的Coxon在X网站上发帖称

人工智能末日论：人类为何会如此担忧？

它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机