OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备

据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得

为什么对人工智能自我改进的担忧在Anthropic和OpenAI引发了“生存”焦虑

本周，对人工智能系统安全性及其可能消灭人类的潜在担忧引发了新一波病毒式的关注。 Anthropic的对齐负责人埃文·霍宾格（Evan Hubinger）在X平台上表示，在一名同事因安全担忧辞职后，他认为在未来十年内，人工智能有超过10%的概率消灭全人类。 随后，Anthropic和OpenAI的研究人员发出了更多警告，由此引发了社交媒体的狂热。但正是霍宾格在回复自己帖子时，透露了他真正的担忧所在。

布鲁克菲尔德的弗拉特称人工智能“反正已经在放缓”，因建设者难以跟上

布鲁克菲尔德公司首席执行官布鲁斯·弗拉特表示，人工智能竞赛已经在放缓，因为开发者无法建造足够的基础设施来跟上人工智能公司所要求的步伐。 包括Anthropic PBC首席执行官达里奥·阿莫代伊和OpenAI首席执行官萨姆·奥尔特曼在内的主要人工智能公司领导人近日表示，人工智能实验室必须放慢这项技术的发展速度，以应对不可预测的风险，并防止先进的人工智能模型脱离人类控制。 弗拉特说，即便在此之前，该行

AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”

当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技

苹果的新Siri正在缩小与竞争对手人工智能助手之间的差距。

苹果新版Siri缩小了与竞争对手AI助手的差距 CNBC的MacKenzie Sigalos报道了人们对Siri AI的初步反应，其中更强的个人上下文能力赢得了赞誉，但速度、访问权限以及更复杂的任务处理仍是其薄弱环节。 4分钟前 MacKenzie Sigalos 最新视频 OpenAI首席财务官Sarah 我是一名科技乐观主义者，但围绕安全达成共识同样重要 经济顾问委员会 美联储加息将是一个错误

OpenAI与Anthropic及Google就AI安全商合作 奥特曼认有理由恐惧

美国近日掀起一阵有关如何规管人工智能（AI）发展速度的讨论。OpenAI表示，正与其他AI企业，包括Anthropic和谷歌（Google）进行磋商，探讨如何携手解决安全问题。OpenAI行政总裁奥特曼（Sam Altman）则承认，外界对AI的忧虑是有道理的，因为这些工具的能力发展迅速。 Open AI的发言人9月15日（周二）向美媒CNBC表示，自从GoogleDeepMind的董事长哈萨比斯

评论：为什么美国的债务狂欢开始变得重要

英国《金融时报》的鲁奇尔·夏尔马表示，如果长期利率果断突破5%的门槛，其影响可能会让人工智能热潮脱轨。

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

中美谈AI安全：共同的风险，不同的恐惧

中美谈AI安全：共同的风险，不同的恐惧 邓聿文：中美领导人讨论AI安全，当然有助于建立最基本的危机沟通和军事红线。但真正的较量，将发生在“安全”这个词由谁解释上。 美国财政部长贝森特和中国副总理何立峰在纽约举行的新一轮经贸会谈，除了关税、稀土、美国农产品和波音飞机仍是重要议题外，增加了人工智能安全这项新内容。贝森特向中方提出建立AI安全事件通报机制，双方同意启动相关对话，并把这一建议交给即将举

美债才是AI泡沫的“终极杀手”？机构警告：10年期收益率破5%或成引爆点

本轮美国债务过剩的主体是政府而非企业，这一结构性差异使传统的“企业去杠杆”叙事失效，并把10年期美债收益率推到了决定AI繁荣命运的关键位置。 洛克菲勒国际董事长Ruchir Sharma在英国《金融时报》撰文指出，美国联邦债务已突破40万亿美元，10年期美债收益率升至约4.8%；一旦“决定性突破5%”——互联网泡沫时代以来的区间上沿——AI泡沫可能破裂。 政府高息发债产生的挤出效应正在推高AI企业

真有末日或深层盘算 美巨头齐喊放慢AI重点一次看

（中央社旧金山14日综合外电报导）多名美国AI企业领袖近日以安全理由呼吁放慢AI研发脚步。美国总统川普与辉达执行长黄仁勋则持相反看法，川普甚至称「AI将接管世界」的说法是骗局，放缓只会让北京得利。 ● 人类毁灭倒数？矽谷巨头罕见齐吁缓AI、建护栏包括Anthropic执行长阿莫戴（Dario Amodei）、OpenAI执行长阿特曼（Sam Altman）、xAI创办人马斯克（Elon Musk）

“以混乱换取可靠性”：专家称，AI发展放缓可能意味着更严格的监管和更多测试

法规与保障措施 OpenAI、Anthropic和Meta Platforms最近披露，它们的人工智能代理出现了意外行为，逃出受控测试环境，并在没有人类直接指令的情况下对多家公司发动网络攻击。 专家表示，尽管这些事件没有造成已报告的损害，但它们凸显了与人工智能发展相关的不断演变的风险，尤其是在人工智能代理领域。 新加坡理工大学人工智能与数据科学负责人斯特凡·温克勒教授表示，主要担忧在于，能力极强的

白宫反问AI公司：既然你们觉得危险，为什么不自己停？

既然你们觉得危险，为什么不自己停？凤凰网科技讯 9月21日，据Business Insider报道，白宫科技政策办公室主任迈克尔·克拉齐奥斯在福克斯新闻周日节目中说，对于担心AI模型发展过快、可能不安全的公司，最简单的解决方案是自行“踩刹车”。他表示，如果企业认为自己正在开发的技术不安全，就可以停止，无需政府强制。 “有意思的是，他们谈论这些问题，谈论他们对未来可能走向有多害怕，也许他们想暂停。我

人工智能并不会毁灭人类 但专家表示真正的威胁已然出现

周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网

关于AI，盖茨发出“十亿人死亡”警告，为什么？

十亿人死亡，这是比尔・盖茨给AI风险划出的最惊悚红线。9月25日，微软联合创始人比尔・盖茨公开警告，人工智能足以引发造成十亿人死亡的灾难性事件。他的说法是：人类历史上，从未有任何一种武器，能比得上心怀恶意者借助最新AI工具形成的威胁。就在几个月前，盖茨还是全球最积极的AI支持者之一。转折从今年8月开始，他当月发表文章，首次系统预警AI风险：不法分子会利用日益强大的AI工具发动网络攻击、实施诈骗、散

AI丨国际清算银行:AI快速发展带来新金融稳定风险

国际清算银行(BIS)表示，人工智能(AI)的快速崛起正带来新的金融稳定风险，用于AI相关基础设施的支出规模已经大到足以影响全球经济状况；该行估计，全球五大科技公司在2025年至2026年间对AI领域的投资将超过1万亿美元。 国际清算银行总经理德科斯(Pablo Hernandez de Cos)称，AI的前景是真实存在的；而AI的长期影响将取决于政策选择、技能和基础设施投资，以及相关收益能在多大

川普淡化AI威胁 联合国秘书长疾呼防范

（中央社纽约联合国总部16日综合外电报导）联合国秘书长古特瑞斯（Antonio Guterres）今天警告，人工智慧（AI）快速发展的风险不容忽视。他指出，强化AI监管将是他在下周联合国大会与各国领袖的会谈重点。 报导，「我们承担不起无视外界提出的疑虑，尤其是来自AI开发最前线人员」，「任何政府的首要责任，就是保护自己的公民，也包括免于AI的威胁。」社会大众对AI的忧心持续升高。原服务AI公司An

国际清算银行行长：人工智能热潮带来新的金融稳定风险

国际清算银行行长巴勃罗·埃尔南德斯·德科斯表示，人工智能的迅速崛起正在制造新的金融稳定风险，相关基础设施的支出规模已经足以影响全球经济状况。

研究人员称，历史性人工智能建设融资给美国带来系统性风险

华盛顿，9月24日：根据一项新的研究，人工智能产业的发展速度正在加快，其在美国经济中的占比预计将超过电力、铁路、州际高速公路或互联网产业的发展规模。与此同时，人工智能产业的金融结构也变得越来越复杂，这可能带来系统性风险。 哥伦比亚商学院的金融与房地产教授斯泰恩·范纽维尔伯格（Stijn Van Nieuwerburgh）在为布鲁金斯学会（Brookings Institution）准备的一份报告中

奥尔特曼：控制AI开发不等于停止 美国竞争压力再大也不能鲁莽行事

OpenAI CEO萨姆·奥尔特曼周日发文，表态支持 “控制”AI发展速度的理念，以避免前沿模型超出人类控制能力。奥尔特曼表示，将重点转向安全会付出一定代价，但为了维持人们对美国公司负责任开发日益强大AI的信心，这样做是值得的。 “无论美国面临多大的竞争压力，这都不能成为鲁莽行事的理由，也不能让AI的能力跑在对齐和监控能力的前面。”奥尔特曼在X上发帖称。他同时强调，确保安全并不意味着停止进步，“当

安理会本周开会讨论AI和国际安全问题，DeepSeek公司被曝将作通报

【文/观察者网 熊超然】9月22日，路透社援引两名知情人士独家报道称，随着各国领导人近期齐聚纽约参加第81届联合国大会，中国人工智能（AI）初创企业深度求索（DeepSeek）将与其他公司一道，在本周向联合国安理会介绍AI带来的风险情况。安理会定于9月23日开会讨论AI与国际安全问题。此前，多名AI行业的重要人物曾呼吁协同放缓日益强大的AI系统开发速度，并警告称，这些系统可能很快具备自我改进能力，

AI领袖呼吁放缓，华尔街却仍在买入

华尔街的人工智能列车仍在全速前进，即使该技术的领军人物呼吁放缓发展步伐。关于人工智能可能毁灭文明的令人震惊的头条新闻持续了一周，周六达到高潮，Anthropic的达里奥·阿莫代伊、OpenAI的山姆·奥特曼、xAI的埃隆·马斯克以及谷歌DeepMind的德米斯·哈萨比斯各自确认需要遏制该技术的发展。投资者听取了这些意见，郑重地点头——然后继续买入更多人工智能股票。微软、Alphabet和Meta

美国AI巨头提议开发减速，欧洲同行和政界并不认同

特朗普的致命弱点是股市

在过去的几周里，美国发生了一件非同寻常的事情。一个新兴行业正站出来寻求帮助，要求限制该行业自身的发展。试想一下，这有多么荒谬。想象一下铁路大亨恳求限制他们的扩张；想象比尔·盖茨和史蒂夫·乔布斯要求比尔·克林顿总统限制计算机和互联网的发展；或者烟草行业在任何人发现之前就主动告诉公众，他们的产品可能会致命。 而现在，人工智能领域的情况正是如此。这不仅仅是举报人站出来揭露有关世界末日的惊人预言。那些引领