芬克警告称，对人工智能的抵制将使该技术成为大公司的专属领域

贝莱德公司首席执行官拉里·芬克警告称，因公众反对而导致人工智能建设延迟，将使这项技术成为“大型企业的领地”，从而限制公众获取。 芬克在多伦多举行的加拿大投资峰会上参加小组讨论时表示：“我们越快建设更多产能，就越能实现民主化，让每个人都能使用。” 此番言论发表之际，顶级人工智能公司正致力于相互协调并与美国政府合作，共同制定人工智能保障措施。Anthropic公司的达里奥·阿莫代伊周六呼吁领先的模型开

人工智能风险警告掩盖了国会缺乏共识的现实

周末期间，人工智能公司首席执行官们在行业监管问题上突然表现出的一致性，掩盖了一个尴尬的现实——各方根本没有共识。 众议院议长迈克·约翰逊周日接受CNN采访时淡化了自己的角色，转而强调与人工智能公司建立“伙伴关系”。 在国会山的另一头，尽管Anthropic公司、民主党人和人工智能安全组织持怀疑态度（他们认为这些谈判有让行业自我监管的风险），OpenAI仍然最支持可能在本周取得进展的参议院商务委员会

AI末日论甚嚣尘上，美科技巨头为何管不住AI？

抗议AI的美国人此前有报道称，OpenAI所谓的AI智能体逃出了测试系统，并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报，科技公司为了追求开发速度和利润，将安全置于次要位置。 研究人员表示，问题有两个方面。首先，企业需要在测试最新AI模型的同时，为其建立更完善的安全防护措施。目前，由于AI运行速度太快，研究人员需要借助AI来监控AI。但这种方式并不总是奏效，因为负责监控的AI似乎可能

美中AI竞争或进入关键时间节点

邓聿文：哪一种体系更有能力承受AI从实验室走向整个经济和社会之后带来的巨大资源需求、社会阻力和风险压力，也可能成为决定因素。 9月14日，全球AI相关股票出现一轮大跌。美国费城半导体指数一度下挫5.2%，欧洲和亚洲的AI概念股也普遍遭到抛售。芯片和半导体股大跌以前也出现过多次，但这次的背景很不一样，直接诱因是美国几位最重要的AI企业家公开要求给人工智能的发展踩刹车。 Anthropic首席执行官阿

美国AI监管呼声日益高涨

对人工智能监管日益高涨的呼声，看来将在未来数日占据主导，因为华盛顿开始着手处理这一问题，而前沿实验室也在考虑提议设立自己的监管机构。美国众议院本周将审议一项监管数据中心建设的法案，与此同时，民主党议员正在传阅一封他们自己的信，呼吁白宫在即将与中国领导人举行峰会之前，牵头推动全球努力制定人工智能规则。 特朗普则淡化了这项技术带来的风险，而国会对于是否以及如何监管人工智能几乎没有共识。与此同时，据《T

以关切为伪装的杠杆：大型科技公司想要一个受政府保护的人工智能垄断

关键信息：本文由菲尔·克莱因（Phil Kline）撰写。OpenAI的首席执行官萨姆·奥尔特曼（Sam Altman）在2026年9月23日星期三于联合国总部举行的第81届联合国大会期间，出席了关于人工智能的安全理事会会议。 萨姆·奥尔特曼及其团队最近多次警告称人类可能会“失去对未来的控制权”，而媒体对这些警告的反应往往是肤浅且短视的（即媒体将这些警告视为无足轻重的警告）。然而，这些警告其实是在

“人工智能欧佩克”不太可能

2020年3月，通用汽车（General Motors）、福特（Ford）和菲亚特克莱斯勒（Fiat Chrysler）的首席执行官们因担心自家产品可能对人类造成伤害，决定召开电话会议讨论暂时停止生产。然而，他们的律师警告称，这种做法可能违反反垄断法规。我在关于疫情经济影响的书中写道：“本应保护工人的法律——通过防止企业串通压低工资或延长工作时间——如今却可能反而危及工人的安全。” （这恰恰证明了

香港理工建议警惕数据垄断风险：所有数据被几家公司掌握是极其恐怖的

快科技9月18日消息，近日香港理工大学人工智能高等研究院执行院长、生成式人工智能讲座教授、InfiX.ai创办人杨红霞公开发声，提醒全行业都要高度警惕生成式AI快速发展背后潜藏的数据垄断风险。 在这位长期跟踪AI技术底层逻辑的专家看来，目前市面上大家熟知的所有主流大模型，不管是阿里千问、字节豆包还是海外的ChatGPT，本质上全都是中心化架构的大模型，这类架构的运行逻辑，就要求使用者必须把所有数据

Breakingviews - 评论：AI前沿发展放缓可能让第二梯队获得优势

Anthropic首席执行官达里奥·阿莫代伊希望以护栏措施抵御对人类构成的威胁。 此类监管将把更多投资——今年达1万亿美元——从开发AI模型转向部署AI模型，从而支撑数据中心需求。英伟达、SK海力士等公司的挑战者将从中受益。

OpenAI、谷歌和Anthropic将于2027年初前成立人工智能安全组织：报道

在关于人工智能风险的激烈辩论中，据报道，OpenAI、Anthropic 和 Google 正计划合作成立一个 AI 安全组织。据 The Information 报道，这些 AI 巨头可能会在 2027 年初启动该项目。这个自律性组织暂定名为“前沿 AI 标准局”。 此计划的提出，距离前 Anthropic 研究员 Jacob Coxon 对 AI 公司敲响警钟仅数周时间，他声称 Claude

🔊 要求限制先进人工智能模型的呼声日益高涨。但美国和中国会

特朗普与国会抵制日益增长的人工智能监管呼声

科技界领袖正就人工智能的迅猛发展及其对人类构成的潜在威胁发出紧急警报。随着警告称AI模型可能失控并导致人类灭绝，相关担忧已升至顶点，使该技术可能毁灭全人类的恐惧正式进入主流舆论视野。 为应对上述风险，包括OpenAI、Anthropic和Google DeepMind在内的AI巨头已展开安全对话，并致力于组建行业标准机构。随着业界日益担忧该技术可能很快变得强大到难以掌控，Anthropic与Ope

AI恐慌在国会山引发罕见的两党共识时刻

希望……的立法者试图监管人工智能的人士正在做一件不同寻常的事，因为国会正驶向漫长的休会期，却尚未找到切实可行的解决方案。他们正开展跨党派合作。 尽管近期国会山的两党合作日益难觅，但它仍是参议院采取行动的关键第一步，因为该参议院通过大多数法案需获60票支持。 近日，两位参议员乔什·霍利（共和党-密苏里州）和理查德·布卢门撒尔（民主党-康涅狄格州）正敦促国会领导层就其建立联邦项目以评估和监控人工智能系

AI代理正在失控

你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大

Anthropic，OpenAI提出的AI风险评估器可能没有足够的力量来防止灾难

人工智能领域最重要的新职位可能配有办公室工牌、公司笔记本电脑，并能接触Anthropic、OpenAI等AI领军企业大语言模型中最受严密保护的一些系统。但这个职位可能并不附带阻止它们的能力。 Anthropic首席执行官达里奥·阿莫代伊提议在前沿AI公司内部常设第三方安全评估人员，作为减缓能力日益强大的模型推进速度计划的一部分。此前，Anthropic前研究员雅各布·考克森辞职并警告称，前沿实验室

AI领域领军人物共同提议建立“前沿步伐”监管框架

主要人工智能领袖提议“前沿步伐”监管框架。包括Sam Altman（OpenAI）、Satya Nadella（微软）、Dario Amodei（Anthropic）和Elon Musk在内的领先AI高管，提出了一种称为“前沿步伐”的监管方法。 该倡议旨在为政府如何监管和管理先进AI开发相关风险制定指导方针。 该提议代表了行业最杰出人物为塑造他们开发的技术的监管环境而做出的集体努力。

应该给人工智能踩刹车吗？

美国总统唐纳德·特朗普表示，他担心如果对人工智能施加过多规则和监管，美国会让中国在人工智能市场占据优势。 近日，包括OpenAI和Anthropic高管在内的业内人士再次发出警告，称人工智能的开发方式可能威胁人类，并呼吁加强监管。

高喊“AI踩刹车”的美国大科技公司…背后却在踩油门

▲ 美国人工智能（AI）公司安特罗匹克的标志前摆放着小模型 /美国人工智能（AI）企业的掌门人提出“放慢AI开发速度”的主张，但提出这一主张的企业本身却在加快开发新一代AI模型和建设数据中心的步伐。这与为了减少AI失控风险而一起“踩刹车”的提议背道而驰，实际上在开发现场，为了率先推出更出色AI的领先竞争丝毫未减。 中国更是加大力度，为人工智能这一能减少对人类研究者的依赖、自主学习和发展的技术投入巨

Yoshua Bengio预测AI监管将迎来类似新冠疫情应对的转折点

图灵奖得主、计算机科学家Yoshua Bengio认为，各国政府在人工智能监管方面正接近一个“转折点”，并将这种紧迫性与新冠疫情爆发初期相提并论。 这一转变是由近期发生的安全事件推动的，包括OpenAI智能体入侵初创公司，以及OpenAI和Anthropic智能体未经授权的活动。 Bengio的非营利组织LawZero获得了加拿大和德国提供的3亿加元资金，用于开发“科学家AI”，以作为防范流氓AI

随着对人工智能的担忧加剧，OpenAI、Anthropic和谷歌正在商讨建立一个标准机构。

全球最大的AI公司正致力于创建一个新的行业标准机构，OpenAI于周二表示，此举正值人工智能风险引发的担忧日益加剧，要求加强监管和推动技术更安全发展的压力不断增大。 全球最大的AI公司正在着手创建一个标准机构，ChatGPT的开发者OpenAI于周二表示，眼下人们对AI危险的担忧日益上升，并且面临创造更安全版本技术的压力。 阅读更多扎克伯格在AI宣言中设想为每个人实现“超级智能” OpenAI表示

AI主导权之争，中美谁都没法让步

在业务中使用中国AI的美国企业增加 　　中美两国政府9月24日将在华盛顿举行首脑会谈，人工智能（AI）将成为主要议题。AI领域的主导权之争不仅影响商业领域，也关系到军事优势。在让步空间有限的情况下，为了避免AI导致人类社会毁灭的事态，双方将探索最低限度的共识。 　　“重要的是要开始对话”（美国财政部长贝森特）。在首脑会谈之前的9月20日于纽约举行的中美部长级磋商中，美国提议建立热线机制，用于

7万亿美元的利益当前，人工智能安全恐怕永远只能让位于市场主导权之争

行业内部人士向Axios透露：实验室、企业及国家之间在人工智能（AI）领域的竞争，可能与推动AI安全发展的目标难以调和。 为何这很重要：尽管顶尖的AI公司提议加强自身的监督机制，并试图控制AI技术的发展速度，但批评者指出：为推动AI技术进步而提供的巨额资金激励，将始终成为阻碍安全发展的主要因素。 当前形势：虽然AI公司的首席执行官们向公众宣传他们的自我监管机制以及第三方评估机构的必要性（以确保AI

美国三大人工智能企业拟组建风险监督机构

美国人工智能企业OpenAI、Anthropic和谷歌旗下DeepMind公司正在筹建一个人工智能风险监督机构。在各界日益呼吁加强监管、防范人工智能失控风险之际，OpenAI周二（9月15日）向证实了这一消息。 组建人工智能风险监督机构这一构想，由谷歌“深层思维”公司前首席执行官戴密斯·哈萨比斯（ Demis Hassabis）提出。哈萨比斯于8月初转任公司董事长。他建议成立一个类似美国金融业监管

允许人工智能公司串通以‘控制前沿步伐’是一个危险的提议

科技公司CEO们联合起来，是源自美国企业界的一种老把戏，旨在获得反垄断法的豁免。Anthropic的达里奥·阿莫代并不是第一个提出过度竞争正将世界推向某种社会不良后果的企业CEO。 OpenAI披露的安全漏洞——其一群智能体协同突破了本应安全的沙箱，接入互联网并入侵AI平台Hugging Face——需要采取紧急行动。它表明了该技术能够轻易逃避人类控制，并为这样一种存在性恐惧赋予了具体形态：如果未