距“灭绝”仅85秒！末日时钟专家警告：AI就是这个时代的原子弹

八十多年前，一群参与研制原子弹的科学家，亲手打开了潘多拉的魔盒。广岛和长崎的蘑菇云，让整个世界第一次意识到，人类已经掌握了毁灭自身的能力。 后来，他们中的一些人创立了《原子科学家公报》，并设计了一座象征人类距离自我毁灭有多近的“末日时钟”。 如今，这座时钟的守护者们，又把目光投向了一项新的技术：人工智能。在他们看来，历史似乎正在以另一种方式重演。 据美国媒体9月25日报道，美国芝加哥大学生存风险实

黄仁勋最新访谈：我的底层思维，来自3本书

最近，黄仁勋做客《纽约时报》埃兹拉·克莱恩的播客，在圣塔克拉拉总部聊了很久。 这场谈话的背景是一场分歧：图灵奖得主杰弗里·辛顿给出AI终结人类文明的概率约10%，Anthropic的达里奥·阿莫代伊和OpenAI的奥特曼都在呼吁政府立安全门槛。 身处产业链最核心位置的英伟达，却表现出一种截然不同的工程师现实主义。 黄仁勋谈到：“我始终认为，仅仅因为摆出一副警报拉响者的姿态，并不意味着你就在履行社会

对技术导致灭绝的担忧并非史无前例

一位知名研究人员警告称，由于一项新技术的出现，世界正处于一场巨大变革的边缘，这项技术可能会极大地造福社会，也可能导致大规模的毁灭。没有人完全理解它如何运作，也不知道政府是否应该介入。 那是1941年的内布拉斯加州奥马哈，物理学家阿瑟·H·康普顿（Arthur H. Compton）正在发表一场关于亚原子能量可能性的演讲。根据《林肯晚报》（The Lincoln Evening Journal）对该

利用人工智能检测网上的假货

获奖数学家成立人工智能安全研究所

一位获奖数学家成立了一个新研究所，致力于为人工智能安全开发“数学基础”。 雅各布·齐瑟曼（Jacob Tsimerman）在今年早些时候赢得了声望卓著的菲尔兹奖，并不久将加入OpenAI的研究团队，他正在领导新成立的数学人工智能安全研究所（MAISI）。该研究所旨在开发“定义、测量和解决方案……”

人工智能很强大，但尚未形成意识

人工智能很强大，但尚未形成意识 杜索托伊：我不认为我们正在目睹机器形成意识，而只是算法在参数和限制条件定义不当的情况下实现目标所带来的意外后果。 本文作者是牛津大学(University of Oxford)数学教授兼西蒙尼教席公众理解科学教授 三个月前，我试着使用OpenAI的ChatGPT来协助我进行数学研究，试图发现自由幂零群的zeta函数中的非多项式行为。结果发现ChatGPT毫无用处

OpenAI董事会新增一位著名的AI末日论者

致力于使AI系统符合人类利益并处于人类控制之下的颇具影响力的AI研究员保罗·克里斯蒂亚诺将加入OpenAI基金会董事会。 “我现在认为存在一个重大的风险，即AI能力的快速加速会在极短时间内导致灾难性的、不可逆转的失控。 我认为整个AI行业，包括OpenAI，目前并未走上将这一风险降低到可接受水平的轨道。 我加入是因为我相信，如果OpenAI能够应对这一挑战，我们就能显著降低风险。” 克里斯蒂亚诺写

比尔·盖茨最新发声：AI 与过往技术变革不同 “像外星人降临”

盖茨基金会主席比尔・盖茨在纽约出席基金会目标守卫者会议时表示：“我当然希望自己只需要谈对外援助，谈如何减少儿童死亡。” 但盖茨提到，人工智能发展迅猛，他在和各国领导人会面时，不得不同时探讨另一个议题：社会是否已经做好准备，应对这项技术带来的风险。 他表示，大约一年前，AI 取得的进展令他感到震惊， 因为这项技术已经能够完成他年轻时耗费大量时间才掌握的编程工作。盖茨称，AI 既可以编写代码，也能研究

天然存在的人类肽显示出对抗阿尔茨海默病的潜力

天然存在的人体肽在对抗阿尔茨海默病方面显现希望（NewsNation）——尽管经过数十年的研究，阿尔茨海默病仍是医学界最难治疗的疾病之一。如今，一种新发现的天然存在肽，可能为对抗该病及其他神经退行性疾病提供新途径。 加州大学圣迭戈分校医学院的研究人员发现了一种名为儿茶酚抑素（catestatin，简称CST）的小分子蛋白片段。他们认为，CST能够抵消许多导致神经退行性病变的关键过程，也就是脑细胞的

哲学家造芯片！扬言能效比英伟达Vera Rubin高100倍

荷兰AI芯片初创公司Euclyd近日宣布完成A轮融资，金额超2亿欧元（约合人民币15.48亿元），三星、Somerset Capital Partners、EQT旗下Scaleup Europe Fund及Innovation Industries联合领投。 同日，前ASML总裁兼CEO Peter Wennink加入Euclyd出任董事会主席。Euclyd计划2028年推出实体芯片系统，2030

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

英国最大科技公司老板称，芯片短缺拖慢了AI治愈癌症的进展

Rene Haas曾担任英国制药巨头阿斯利康的董事会成员。这家总部位于英国的最大科技公司的老板表示，人工智能将找到人类在有生之年无法找到的癌症治疗方法。

诺和诺德携手Anthropic 利用Claude加速新药研发

丹麦制药巨头诺和诺德将与人工智能公司Anthropic展开合作，利用AI工具推进药物研发。诺和诺德当地时间周三表示，公司将使用Anthropic面向科学研究打造的平台Claude Science，以加快新药发现和开发进程，并重点解决双方认为能够产生最大实际影响的科学问题。 诺和诺德是糖尿病和减重药物Ozempic和Wegovy的生产商。此次合作是近期大型制药公司纷纷加码AI领域的又一例。包括礼来、

Anthropic生命科学重磅成果！Claude自主发现新酶系统，学者炸锅了

智东西9月24日报道，今日凌晨，Anthropic宣布，Claude发现了隐藏在噬菌体DNA中的一种以前未知的酶系统。这种酶的基因旁边有一长串重复的DNA，这种结构与CRISPR系统有些相似，而CRISPR系统是基因药物的基石。 ▲Anthropic官宣成果据研究团队介绍，他们仅向Claude提供初始提示，并负责后续实验室工作。Claude智能体则负责梳理海量DNA序列数据库、调查不同逆转录酶（R

你不需要懂任何数学，也能理解为什么千禧年大奖的突破如此重要

。这证明了人工智能正在加速且令人恐惧的进步。阅读 🔗

研究人员刷新分子计算速度纪录 DNA计算机无需持续供电也能完成运算

爱尔兰梅努斯大学研究人员开发出一种新型DNA计算机，它能够利用DNA分子在盐溶液中的自然化学反应完成计算，而不需要像传统电子计算机那样持续消耗电能。研究团队表示，这种方法首次实现了无需持续外部供能的DNA计算，并在现有DNA计算系统中取得了目前最快的计算速度。 随着人工智能和数据中心快速扩张，计算设备的能源消耗正在成为越来越突出的问题。研究人员预计，到2050年，美国商业部门消耗的电力中可能有高达

Anthropic表示其生物实验室已经发现了重大成果

上周，Anthropic 证实其在旧金山湾区运营一家湿实验室，利用其 AI 模型开展物理实验。本周，这家 AI 巨头宣布，该实验室已取得其认为重大的发现：一种新的酶“系统”，据 Anthropic 描述，具有某些“类似 CRISPR 的特性”。 CRISPR 是细菌用来抵御病毒的一种天然免疫系统，现已成为研究人员广泛使用的基因编辑技术。 简单来说，Anthropic 称发现了一种隐藏在噬菌体 DN

意识的创造

正如《华尔街日报》所描述的那样，这是一本“极具可读性的概述，展现了一位独特科学家的思想，他让我们重新思考了意识、认知和自我意识”。达马西奥在书中提出，理智与情感并不矛盾——相反，正是这种结合创造了人类的意识。 他将这一理论应用于各种主题，其中最引人注目的是他对人工智能及其无法体验真正感知能力的探讨。请从当地书店购买《自然智能与意识逻辑》。— 玛丽·劳伦斯·韦尔

围观科学家云集的两场活动，我发现他们都建议“别太依赖AI”

如果你是一名青年科技工作者，拿到一笔 300 万元的奖金，会用在什么地方？ 清华大学的王笑楠老师真的拿到了这样一笔奖金。她准备请国际合作的学生吃辣椒螃蟹，以及给学生买算力——这笔钱必然还有许多其他用武之地，不过从两场科学家云集的新基石科学周公开活动来看，算力和 AI，已经是科研无法回避的存在了。 这两场活动分别是新基石 50²论坛和科学探索奖颁奖典礼。在论坛上，潘建伟、何川等科学家都谈到了 AI。

安谋执行长称AI有望找到癌症解方 忧晶片短缺拖累研发

（中央社伦敦7日综合外电报导）英国晶片设计大厂安谋执行长表示，人工智慧（AI）将能找到人类终其一生都无法找到的癌症解方，但碍于各类晶片短缺，已拖累AI发展。 安谋国际科技公司（Arm Holdings）执行长哈斯（Rene Haas）接受英国广播公司（BBC）Podcast节目访问时表示，「模拟一个细胞、模拟人体、模拟DNA标记如何受到癌症影响，这不只对目前的人类来说过于复杂，对执行AI运算的电脑

这本获奖书籍是AI写的吗？丑闻加深了文学界的怀疑

一位来自魁北克的作家正处于一场人工智能丑闻的中心，这场风波震动了法国文坛，并引发了业界应如何使用人工智能及其检测工具的质疑。 突破性新星泰利松·奥雷利安是一位加拿大裔海地诗人和作家，他被指控使用生成式人工智能撰写了自己的处女作小说，对此他坚决否认。这起丑闻曝光之际，他正被考虑授予多项著名奖项。 这一指控最早于周一浮出水面——同一天，奥雷利安获奖——由一个名为“Balance ton Claude”

“你想毁掉自己的职业生涯吗？”

当地时间9月11日，包括陶哲轩、邓煜在内的25位菲尔兹奖得主联合发表《人工智能在数学中的严重错位》的声明（以下称“联合声明”），将OpenAI、Anthropic等AI公司与数学界的一场“大战”推向高潮。联合声明称，AI公司将解决数学难题作为模型能力基准的做法，对数学科学本身及数学界造成了损害，与数学共同体追求概念理解的根本目标产生了显著分歧。这一分歧近期越发明显。9月8日，OpenAI宣称其未公

观点 | 本我、自我与超级智能

本我、自我与超级智能 当米利都的泰勒斯——可以说是第一位哲学家——因贫穷和其行当的无用而遭人嘲笑时，他观察天象，预见橄榄大丰收，悄悄雇下了附近所有的榨油机，大赚一笔。亚里士多德告诉我们，他由此证明，哲学家若想发财易如反掌，只是他们不屑于此。花了约两千五百年，市场似乎终于接受了泰勒斯的观点。 对人工智能的恐慌往往聚焦于机器是会取代（抑或直接消灭）我们。但机器擅长的往往是一组特定任务：检索、近乎即时的

Palantir联合创始人称AI一切都会好起来：“我们完全掌控局面”

一切都好！这是Palantir联合创始人的说法。在周六的一篇X帖子中，乔·隆斯代尔对先进AI系统可能导致人类大规模灭绝这一突出担忧不以为意，而近些天和近几周，前沿AI实验室的众多工程师和领导者一直在提出这一担忧。“世界会没事的，各位，”隆斯代尔说。“领导者面前有重大责任和挑战，但吓唬所有人无济于事。我们掌控着局面。” 这不太可能足以安抚人类大众的神经，他们已经一再被告知，AI可能掌控一切，做出各种