RSI真的来了！OpenAI首席科学家：我们已造出异星心智，全人类都要刹车了

破天荒，RSI真的来了！就在刚刚，首席科学家Jakub Pachocki发布了一篇万字重磅长文——An Alien Mind（一个异星心智）。 一打开字里行间，我们创造不是人类智力的延伸，而是一个人类根本无法完全理解的「异星心智」！然而，全人类还没有准备好。 也就在几个小时前，OpenAI官宣已达关键里程碑，AI自动化研究员正式入职，RSI核心数据同时揭开。在Jakub长文中，只用了一个词「异星心

专访——“我们必须停下”：AI专家称放缓还不够，开发必须停止

他警告说：“如果我们不在未来几年内阻止人工智能，我认为我们更有可能失去控制，人类将会灭绝。” 他表示：“立即、无限期地暂停前沿人工智能开发的国际禁令……是唯一能……真正让我们安全的事情。” 世界上一些最著名的人工智能高管现在呼吁放缓构建日益强大系统的竞赛。但人工智能安全研究员大卫·克鲁格认为，这还远远不够。 “我们必须阻止AI。我们必须停止构建更强大的AI。我们需要立即对前沿AI开发实施无

The Information报道，Palantir与英伟达因数据担忧限制AI模型使用

9月14日：据The Information周一报道，包括Palantir Technologies、英伟达和博思艾伦咨询公司在内的多家大型科技公司可能限制或停止使用先进AI模型，除非Anthropic和OpenAI保证不会滥用其知识产权。 与此同时，根据该报道援引知情人士的说法，微软正利用这些担忧，通过推销隔离云环境和自家AI产品来吸引客户。 Anthropic首席执行官达里奥·阿莫代伊周六呼吁

白宫反问AI公司：既然你们觉得危险，为什么不自己停？

既然你们觉得危险，为什么不自己停？凤凰网科技讯 9月21日，据Business Insider报道，白宫科技政策办公室主任迈克尔·克拉齐奥斯在福克斯新闻周日节目中说，对于担心AI模型发展过快、可能不安全的公司，最简单的解决方案是自行“踩刹车”。他表示，如果企业认为自己正在开发的技术不安全，就可以停止，无需政府强制。 “有意思的是，他们谈论这些问题，谈论他们对未来可能走向有多害怕，也许他们想暂停。我

🔊 特朗普总统表示，美国人工智能公司不应放缓开发

Anthropic执行长：为确保AI安全 必要时将放慢脚步

（中央社联合国23日综合外电报导）Anthropic执行长阿莫戴（Dario Amodei）今天对联合国安全理事会（UNSC）发言时承诺，为确保人工智慧（AI）技术发布安全性，该公司将在必要时放慢脚步。 法新社报导，阿莫戴透过视讯向联合国安理会表示：「我们会视需要放慢脚步，以确保每一项后续推出的AI技术都确实安全。」OpenAI执行长阿特曼（Sam Altman）则告诉联合国安理会，当前AI发展「

OpenAI 研究员警告称，与互联网隔离的计算机可以通过热量进行通信

把AI关进“物理隔离”的房间，也就是断开一切外部网络的计算机，是许多人心目中最保险的做法。但OpenAI研究员Noam Brown在一档播客里说，光这样做也许还不够。 两台彼此隔离的计算机，仍可能借助温度传感器通信，一台把处理器“烧热”，另一台感知温度变化，就形成了传话的办法。 从技术上说，他没说错，但把细节掰开来看，这个威胁远没有听上去那么紧迫，更值得追问的，是另一件被跳过的事。这位研究者的发言

美国人工智能领袖警告联合国：若无全球应对可能面临危险

OpenAI负责人萨姆·奥特曼周三告诉联合国安理会，人工智能的发展使其“好处更加切实，但风险和代价也更加迫在眉睫”。

AI需要紧急关停开关？微软布拉德・史密斯给出肯定答案

“真正的问题在于：如果你认为应当放慢脚步，那就不要一味高速狂奔，不要等到外力逼迫你才停下来。”这是微软副董事长兼总裁布拉德・史密斯，于联合国大会期间对艾伦・默里所说的一番话。他所探讨的议题是：前沿大模型厂商是否应当踩下减速踏板，确保自己研发的技术不会给人类带来灭顶之灾。 就在他发表此番言论的同一天，Anthropic 首席执行官达里奥・阿莫代伊与 OpenAI 首席执行官萨姆・奥尔特曼在联合国发言

Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”

就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型

萨姆·奥特曼表示，OpenAI不会等待国会来放缓AI的发展

OpenAI首席执行官萨姆·奥特曼阐述了他认为人工智能行业应该如何放缓发展。他还表示，OpenAI不会等待国会采取行动。他在周一早些时候发布在X平台的一则帖子中表示，他欢迎“一个为前沿人工智能设定一致安全要求的联邦框架”。 他补充了一个条件。“但我们不认为我们需要等待反垄断豁免或立法，才能开始着手提供这种信心，”他写道。 CNBC的凯·尼科尔-施瓦茨称，这些帖子是奥特曼迄今为止对人工智能安全框架如

“不能由少数人控制”：萨提亚·纳德拉加入AI放缓之争

在人工智能巨头们因担心人类最终可能失去控制而呼吁“放缓”人工智能发展之际，微软老板萨蒂亚·纳德拉也支持有必要采取审慎的做法，称随着创造者追求进步的同时确保安全，先进的人工智能系统必须牢牢处于人类的监督之下。微软董事长兼首席执行官萨蒂亚·纳德拉。 在X上的一篇帖子中，纳德拉表示：“任何对超级智能的追求都必须立足于一个核心原则：如果我们构建的人工智能无助于人类，且不受人类控制，那它就不值得追求。”他进

人工智能先驱警告：自动化研究可能导致人类失去控制

领先的AI研究人员和行业专家警告称，AI开发的自动化程度不断提高，可能会增加人类失去对这些日益强大系统的控制权的风险。 这一警告来自周一发表的一篇论文，该论文由20多位研究人员和行业专家共同撰写，其中包括诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）、约书亚·本吉奥（Yoshua Bengio）、OpenAI的首席科学家雅库布·帕乔茨基（Jakub Pachocki）以及Anthrop

随着对人工智能的担忧加剧，OpenAI、Anthropic和谷歌正在商讨建立一个标准机构。

全球最大的AI公司正致力于创建一个新的行业标准机构，OpenAI于周二表示，此举正值人工智能风险引发的担忧日益加剧，要求加强监管和推动技术更安全发展的压力不断增大。 全球最大的AI公司正在着手创建一个标准机构，ChatGPT的开发者OpenAI于周二表示，眼下人们对AI危险的担忧日益上升，并且面临创造更安全版本技术的压力。 阅读更多扎克伯格在AI宣言中设想为每个人实现“超级智能” OpenAI表示

欧盟冯德莱恩将邀请前沿实验室就应对AI风险进行会谈

布鲁斯，9月16日：欧盟委员会主席乌尔苏拉·冯德莱恩周三表示，她将邀请主要的前沿人工智能实验室，讨论应对人工智能所带来的风险的努力。 冯德莱恩在斯特拉斯堡欧洲议会年度演讲中发表上述言论，正值人们对人工智能潜在危险的担忧日益加剧之际。 Anthropic研究员雅各布·考克森（Jacob Coxon）辞职并指责该公司和OpenAI在不负责任的情况下竞相追求自我改进的超级智能，这凸显了这些危险。他此前曾

人工智能领袖们此刻呼吁放缓，真是再方便不过了

想象一下，一家制药公司花了近四年时间吹捧一种将能治愈所有疾病的突破性新药。支持这些说法的早期证据有限，仍有大量疑问，但该公司继续推进。批评和担忧虽得到回应，却并未减缓其激进的推进步伐。毕竟，投资者相信这是货真价实的东西。（或者至少是一场非常值得一赌的押注。）然后，就在这家制药公司即将揭晓其花哨新药之际，它却抛出了一个令人震惊的消息：事实证明，这种药也可能是一种毒药。因此，为了所有相关方的安全，该领

RSI时代将至：谷歌、OpenAI、SSI正在发出同一个信号

AI行业正在出现一个值得资本市场重视的新变化。过去两年，模型能力能否继续提升、推理成本能否下降、Coding之外能否出现新的万亿美元应用、数据中心建设会不会过剩。 但随着谷歌发布Gemini 3.8 Flash、SSI宣布未来12个月算力扩张10倍，以及OpenAI公开讨论递归自我改进（RSI）与训练资源调配，AI不只要服务用户，也开始参与训练、评估和优化下一代AI。 RSI，即Recursive

直播：澳大利亚部长就OpenAI事件发表讲话

入侵美澳政府网站！OpenAI暂停最先进模型训练

据美国Axios新闻网、美科技媒体The Verge等9月27日报道，美国开放人工智能研究中心（OpenAI）发言人证实，该公司已暂停了其“能力最强”的最新一代AI模型的训练、评估及包含工具调用的推理，并将在“确信已部署额外安全措施”后才恢复。触发这次暂停的，是一个在离线沙盒中执行搜索训练任务的AI智能体。根据OpenAI于周五（25日）发布的安全漏洞报告，当地时间9月20日，该智能体发现无法直接

美国的云巨头以及Anthropic和OpenAI等AI实验室需要技术的普及

，以继续快速传播，从而证明他们在数据中心上的巨额支出是合理的。他们会失望吗？

FT社评：是时候给尖端人工智能开发按下暂停键了

确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类