机器人在波兰抗议AI监管担忧

机器人走上华沙街头抗议泛滥的人工智能

机器人在示威时，扩音器播放着“保卫工作岗位”、“是时候制定规则”和“别再等待，立即监管”的口号。

旧金山抗议者因AI安全担忧针对OpenAI和Anthropic

9月17日，数十名抗议者在旧金山游行，呼吁AI公司“停止AI竞赛”。示威活动从Mission Bay的OpenAI总部外开始，随后移至Howard Street 500号的Anthropic办公室，该地点紧邻Dreamforce大会。游行最终在市政厅结束，抗议者敦促市长Daniel Lurie和监事会宣布当地AI紧急状态。 组织者呼吁暂停开发日益强大的AI系统，直到建立更严格的安全保障和国际规则。

万斯谈美国AI新动向：好奇怪，看起来像特洛伊木马

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管，以管控风险。但是美国总统特朗普认为这没有必要，美国必须保持在AI领域的领先地位。美国副总统万斯也认为，这些监管要求像是“特洛伊木马”。 据美国哥伦比亚广播公司（CBS）9月15日报道，“这确实是我们关注的问题，但我们希望确保监管措施既明智又审慎，并充分考量其中的风险。显然，AI带来了风险，也带来了诸多益处。” “坦白说，那么多

AI恐惧机器？

要观看此视频，请考虑升级到支持HTML5视频的网页浏览器。政治全球议题。 人工智能内部人士警告称，人工智能正在经历一场快速且失控的激增。现在是政府介入的时候了吗，还是我们已经无法掌控局面了？ Michael Kolain是一位科技律师，也是柏林数字权利与民主中心政策负责人。 Janosch Delcker是一位科技记者、作家和主题演讲人，同样常驻柏林。 Vanessa Vohs是欧盟“国防人工智能

AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”

当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技

社区为何反对AI数据中心

特朗普下周拟在白宫召集AI行业高管

人工智能（AI）安全和监管，这场源于对人类命运严峻警告的辩论，已在华盛顿和硅谷内部形成了两大阵营——以美国总统特朗普为首的“激进发展派”，以及以“AI三巨头”为首的“慢节奏派”。 AI安全引爆舆论这场舆论风暴最初是由Anthropic的研究员Jacob Coxon引发的。他上周宣布辞职，并指责该公司及其主要竞争对手OpenAI的行为不负责任。曾先后在这两家公司担任研究员的Coxon在X网站上发帖称

AI末日论甚嚣尘上，美科技巨头为何管不住AI？

抗议AI的美国人此前有报道称，OpenAI所谓的AI智能体逃出了测试系统，并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报，科技公司为了追求开发速度和利润，将安全置于次要位置。 研究人员表示，问题有两个方面。首先，企业需要在测试最新AI模型的同时，为其建立更完善的安全防护措施。目前，由于AI运行速度太快，研究人员需要借助AI来监控AI。但这种方式并不总是奏效，因为负责监控的AI似乎可能

AI监管陷入僵局，呼吁国会采取行动的呼声日益高涨

当美国总统唐纳德·特朗普周一回应越来越多要求放缓人工智能发展步伐的呼声时，他的态度毫不含糊。 “人工智能接管世界、毁灭人类以及其他所有糟糕的事情，是一个骗局，”他在社交媒体上写道。他此前曾主张，人工智能“唯一需要的控制或‘护栏’”是一位“强大而聪明”的总统。 不出所料，国会中的资深民主党人并不认同特朗普的观点。人工智能领域的领军人物也持反对意见，他们近日发出了严厉的安全警告，并主张政府进行监管。然

联合国人权事务高级专员警告：人工智能可能对人类构成“生存威胁"

联合国人权事务高级专员沃尔克·图尔克（Volker Türk）周一（9月7日）警告称，人工智能可能变得足够强大，足以威胁人类，并表示他将在未来几天敦促各公司降低风险。 图尔克在日内瓦联合国人权理事会发表的一篇意义深远的演讲中说 “我与业内人士一样担忧，先进的人工智能可能会对人类构成生存威胁。” 即将于下个月开始第二个任期的图尔克呼吁“必须全力以赴，在为时已晚之前，为人工智能的安全保障建立铁一般的保

AI反弹正演变为一场政治运动

一个新团体正利用气候运动的策略来针对科技公司和政府。

科技领袖就人工智能放缓问题持对立立场

科技领袖在监管人工智能问题上持对立立场，表明行业内部裂痕日益加深。OpenAI首席执行官萨姆·奥尔特曼——上周他不仅呼吁美国进行监管，还呼吁华盛顿和北京之间达成一项协议——表示他的公司正在与Anthropic和谷歌合作，以遏制围绕这项技术的担忧。 然而，英伟达首席执行官黄仁勋与Meta首席执行官站在一起，拒绝协调人工智能放缓的呼吁，称没有必要对人工智能安全进行监管。专家担心，在中期选举之前，美国进

美国AI监管呼声日益高涨

对人工智能监管日益高涨的呼声，看来将在未来数日占据主导，因为华盛顿开始着手处理这一问题，而前沿实验室也在考虑提议设立自己的监管机构。美国众议院本周将审议一项监管数据中心建设的法案，与此同时，民主党议员正在传阅一封他们自己的信，呼吁白宫在即将与中国领导人举行峰会之前，牵头推动全球努力制定人工智能规则。 特朗普则淡化了这项技术带来的风险，而国会对于是否以及如何监管人工智能几乎没有共识。与此同时，据《T

🔊 要求限制先进人工智能模型的呼声日益高涨。但美国和中国会

马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉

美国AI巨头提议开发减速，欧洲同行和政界并不认同

消息称扎克伯格与特朗普通话 反对建立全国AI监管机构

据《商业内幕》报道，Meta CEO马克·扎克伯格(Mark Zuckerberg)上个月在一次此前未被报道的电话中，向美国总统特朗普表达了对建立全国性AI监管机构计划的担忧。此举标志着这位全球顶尖科技企业高管参与到了一场充满争议的白宫AI政策辩论中。 扎克伯格与特朗普在美国建立AI监管机构的计划，由诺贝尔奖得主、谷歌DeepMind科学家德米斯·哈萨比斯(Demis Hassabis)推动，并得

议员和上议院议员告诉英国，不要在人工智能监管上临时应付

英国议员希望设立一个拥有实权的AI监管机构，以阻止潜在危险系统进入公众领域，并警告现有规则使民众暴露于风险之中，且难以追究任何人的责任。由下议院议员和上议院议员组成的联合人权委员会表示，尽管有多项法律法规适用于某些AI系统，但整体法律格局支离破碎且混乱不清。没有任何单一机构协调AI监管，留下空白，可能使受AI伤害的人难以获得法律救济。委员会主席、议员亚历克斯·索贝尔表示，AI发展的速度和复杂性使其

气候抗议者表示，真正的“人类威胁”是科技公司，而非人工智能——还有地球。

9月21日，人们在纽约市OpenAI办公室外抗议。摄影：朱利叶斯·康斯坦丁·莫塔尔/《卫报》周一，在纽约市气候周期间，活动人士聚集在OpenAI办公室外。周一傍晚，抗议者聚集在ChatGPT制造商OpenAI位于曼哈顿、没有任何标识的办公室外，举着标语呼吁“吃掉富人，拯救地球”。在接下来的两天里，一些团体还在科技巨头谷歌和亚马逊的办公室外举行抗议；其他抗议者，包括神职人员，在扰乱该市一场闭门人工智

共和党和民主党的州在人工智能（AI）监管问题上与特朗普政府持不同意见（即这些州不支持特朗普政府的AI监管政策）。

自7月以来，要求实施更严格限制的呼声不断升级。面对人工智能潜在危险引发的轩然大波，全国各州领导人正在违抗唐纳德·特朗普对人工智能监管采取的不干预方针，推动实施更强有力的管控。 本周，在全国最大人工智能公司的前员工警告称该技术拥有巨大力量、且发展速度极快，可能导致人类灭绝之后，共和党人和民主党人发起的这场从东海岸到西海岸的行动进一步升级。包括特朗普盟友、SpaceXAI的埃隆·马斯克在内的公司高管，

Anthropic、OpenAI、SpaceXAI 和 Google 因呼吁“加快”人工智能（AI）的发展而遭到起诉。

该诉讼指控，关于需要“控制人工智能前沿发展节奏”的言论，构成了竞争对手之间的非法协调行为。 加利福尼亚州萨克拉门托——根据周五向联邦法院提起的一项民事诉讼，人工智能巨头Anthropic、OpenAI、SpaceXAI和谷歌正面临串通指控。此前，业界曾呼吁协调放缓人工智能的发展。 诉状称，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）本月早些时候公开呼吁进行“全行业协调”，

华盛顿方面拒绝给予人工智能企业制定安全标准的豁免权。

Anthropic首席执行官达里奥·阿莫代伊呼吁给予人工智能企业反垄断豁免，以便它们共同制定安全标准，这一主张在华盛顿遭到质疑，政策制定者正在质疑科技领导人的意图。多年来，国会屡次未能通过人工智能监管法规，但一些议员对在华盛顿无所作为之际让科技公司牵头制定规则的想法表示反对。华盛顿和硅谷都面临越来越大的压力，需要采取更多措施防范人工智能的灾难性风险，但双方都缺乏足够共识，结果演变成相互推诿。本周，

顶尖人工智能公司正在寻求监管。以下是国会可能不会给予的原因。

随着人工智能游说阵营开始接受强制性独立审计，批评者警告称存在利益冲突和“监管俘获”的风险。OpenAI周二表态支持一项日益流行的提案，旨在应对人工智能的危险——该提案要求顶尖AI开发商嵌入独立监督机构，以确保其产品安全。 这一想法仍面临障碍，包括一位关键议员的抱怨，称独立监督机构权力太弱，无法施加有意义的改变。 其他批评者，包括风险投资家、学者以及唐纳德·特朗普总统的前人工智能事务负责人，对一些监