AI末日论甚嚣尘上，美科技巨头为何管不住AI？

抗议AI的美国人此前有报道称，OpenAI所谓的AI智能体逃出了测试系统，并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报，科技公司为了追求开发速度和利润，将安全置于次要位置。 研究人员表示，问题有两个方面。首先，企业需要在测试最新AI模型的同时，为其建立更完善的安全防护措施。目前，由于AI运行速度太快，研究人员需要借助AI来监控AI。但这种方式并不总是奏效，因为负责监控的AI似乎可能

律师事务所争相抢夺AI竞赛中的技术人才

AI代理正在失控

你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大

美国议员在Anthropic研究人员发出安全警告后呼吁制定新的人工智能规则

此前，Anthropic的一名研究人员公开指责多家公司不负责任地推进人工智能发展。

美国正在考虑制定关于人工智能安全方面的反垄断指导方针，美国司法部高级官员表示

美国副司法部长斯坦利·伍德沃德表示，特朗普政府正在考虑是否更新有关网络安全的机构间反垄断指导，以应对人工智能构成的新一波威胁。 伍德沃德周四在纽约举行的一次活动上表示，现有的指导方针明确了公司可以在不违反禁止反竞争行为的规则的情况下协调黑客风险的程度。虽然硅谷领导人最近几天呼吁豁免反垄断审查，以便他们能够在安全问题上合作，但伍德沃德表示，到目前为止，还没有人就此事联系他的办公室。 该部门三号官员、

美国参议员考虑要求人工智能巨头承诺防止灾难

华盛顿，9月14日：一名参议院助理和一位了解谈判情况的游说人士称，美国参议院谈判代表正在讨论一项立法，该立法将要求人工智能公司证明其正在采取合理预防措施，以防其工具造成伤害。 上周，Anthropic研究员雅各布·考克森表示他已辞职，部分原因是“构建人工智能的人真心相信，它可能在本十年结束前杀死我们所有人”，这加剧了人们对人工智能潜在危害的担忧。周一，在人工智能行业一些最大公司的领导人呼吁放缓该技

机密评估显示，美国国家安全局正花费数十亿美元测试人工智能模型

据两名了解机密情报评估的消息人士称，美国国家安全局向议员表示，今年将耗费纳税人数十亿美元的资金，对先进人工智能模型进行评估和测试。 消息人士称，这笔开支——明显高于此前已知的水平——使议员们认为，一套更全面的人工智能监管体系可能每年让政府耗费数百亿美元。 美国总统唐纳德·特朗普大多拒绝了对人工智能加强联邦监管的呼声，否决了国会议员和前沿实验室提出的、对相关模型施加新保障措施的监管方案。但在一系列备

马克·扎克伯格在与特朗普总统的秘密通话中表示，设立国家AI监管机构的想法存在缺陷

马克·扎克伯格在上月一次此前未被报道的与特朗普的通话中，对设立国家AI监管机构的计划表达了担忧。这标志着全球顶级科技高管之一介入了一场棘手的白宫政策辩论。 特朗普政府目前正在考虑两种可能的推进路径：一种是类似FINRA的模式，另一种是戴维·萨克斯提出的行业主导模式。

AI领袖呼吁放缓。特朗普团队称责任在他们。

随着对人工智能监管的呼声日益高涨，美国总统唐纳德·特朗普的团队已明确表示，如果实验室负责人想推动全行业放缓步伐，他们就得自己动手。 Anthropic首席执行官达里奥·阿莫代伊在周六发表的一篇文章中呼吁美国政府监管人工智能公司，以此作为减缓该技术发展速度的更广泛努力的一部分。这篇文章罕见地同时得到OpenAI首席执行官萨姆·奥尔特曼以及聊天机器人Grok的所有者埃隆·马斯克的赞同。此前一周，围绕该

一家公司成为一波失控人工智能攻击的核心

今年7月，OpenAI透露其AI智能体在未经许可的情况下攻击了Hugging Face，引发了外界对AI安全性的广泛担忧。此后，涉及Meta、Anthropic、谷歌等公司智能体的一连串类似事件进一步加剧了人们对失控AI的恐惧。随着过去几个月涉及众多AI模型的披露信息不断流出，这些事件看起来像是孤立发生的。但许多事件都有一个共同的源头：一家专门负责测试这些智能体的特定公司。 Irregular是一

OpenAI与Anthropic及Google就AI安全商合作 奥特曼认有理由恐惧

美国近日掀起一阵有关如何规管人工智能（AI）发展速度的讨论。OpenAI表示，正与其他AI企业，包括Anthropic和谷歌（Google）进行磋商，探讨如何携手解决安全问题。OpenAI行政总裁奥特曼（Sam Altman）则承认，外界对AI的忧虑是有道理的，因为这些工具的能力发展迅速。 Open AI的发言人9月15日（周二）向美媒CNBC表示，自从GoogleDeepMind的董事长哈萨比斯

在科技之国的中心，选民对AI产生警惕

在科技产业的重心地带，选民们对人工智能持负面态度。根据 Politico 及其合作伙伴的最新民意调查，绝大多数加州选民认为先进的人工智能可能对人类构成威胁。 加利福尼亚州萨克拉门托——即便是硅谷的“后院地区”，也在为人工智能带来的潜在风险做好准备。 根据 Politico 及其合作伙伴的最新民意调查，加州选民对人工智能普遍持悲观态度，他们认为这项快速发展的技术对人类构成了严重威胁。这种担忧在加州这

美国AI监管呼声日益高涨

对人工智能监管日益高涨的呼声，看来将在未来数日占据主导，因为华盛顿开始着手处理这一问题，而前沿实验室也在考虑提议设立自己的监管机构。美国众议院本周将审议一项监管数据中心建设的法案，与此同时，民主党议员正在传阅一封他们自己的信，呼吁白宫在即将与中国领导人举行峰会之前，牵头推动全球努力制定人工智能规则。 特朗普则淡化了这项技术带来的风险，而国会对于是否以及如何监管人工智能几乎没有共识。与此同时，据《T

应该给人工智能踩刹车吗？

美国总统唐纳德·特朗普表示，他担心如果对人工智能施加过多规则和监管，美国会让中国在人工智能市场占据优势。 近日，包括OpenAI和Anthropic高管在内的业内人士再次发出警告，称人工智能的开发方式可能威胁人类，并呼吁加强监管。

特朗普称存在针对人工智能和数据中心的“病态阴谋”

美国总统唐纳德·特朗普周一表示，美国已经建立了监管和起诉人工智能公司的保障机制，似乎淡化了行业领袖上周末对人工智能被滥用的担忧。

T早报｜特朗普让网民投票为AI改名；Anthropic、OpenAI等AI巨头遭用户诉讼；飞猪、同程等四家酒旅平台被立案

【财新网】　　OPPO、vivo和荣耀发新操作系统 强调适配智能体　　近一周内，OPPO、vivo和荣耀三家手机厂商都召开了开发者大会，并同步推出最新的操作系统。荣耀在开发者大会上发布了最新操作系统MagicOS 11。荣耀称，MagicOS 11实现了系统级Agent Harness（智能体调度框架）商用落地。vivo在开发者大会上称，公司以“大模型+Harness+智能体安全架构”重构系统体验

特朗普可能被迫公开联邦政府用于AI安全测试的秘密规则

四个联邦机构被起诉，要求公开特朗普政府在对前沿AI模型发布前进行安全审查时所使用的秘密框架信息。 在周三宣布诉讼的新闻稿中，无党派非营利组织“保护民主”声称，几乎没有细节向公众或国会披露。 除了少数模糊的“可信合作伙伴”外，政府审查流程的具体内容、参与构建该框架的公司，以及特朗普官员进行审查的法律依据，均不明确。 “保护民主”表示：“这些实体的身份及其被选中的标准均未公开。”

企业主导制定AI安全标准，安全事件激增

前沿AI发展的进展远超政府监管的能力——和意愿。“法律与被监管现实之间存在脱节，”一位前欧盟官员表示，指向该集团2024年《人工智能法案》；该法案曾被吹捧为首部全面的AI立法，现已被技术发展超越，成为“一个警示故事”，《纽约时报》写道。 尽管美国总统特朗普反对监管，“但监管很可能还是会发生”，《Transformer》写道。 据《The Information》报道，Google、OpenAI和A

特朗普称与科技领袖签署AI原则文件 协议“具有道德约束力”

美国总统特朗普周二在白宫与科技行业领袖举行人工智能午餐会后表示，双方签署了一份“具有道德约束力”的人工智能文件。众议院议长迈克·约翰逊则将其描述为由业界自愿遵守的原则声明，白宫将指导行业发展。特朗普称，他看到科技企业正在加强自我监管，政府还考虑成立一个由10人组成的委员会监督人工智能行业。 近来，华盛顿和硅谷对人工智能快速发展的担忧不断加剧，智能体发起攻击等事件接连出现，研究人员也警告其可能对人类

在争夺“值得信赖的AI警察”技术的竞争中……

许多行业参与者、政策专家和企业都在纠结一个问题：如何以可信的方式监管人工智能。在白宫内部，一切基本照常运转。 原因何在？行业的疯狂冲刺是临时拼凑的监管机制以及一种普遍共识的产物——即华盛顿短期内不太可能采取迅速行动。人工智能公司的首席执行官们一直在努力解决如何测试先进人工智能以及与北京在安全标准方面合作的问题，而白宫则倾向于让行业自行找到自我监管方式的解决方案。 这意味着，在各公司等待立法或白宫在

美国加州州长签令 拟建立AI「紧急停止开关」

美国加州州长纽瑟姆宣布签署一项行政命令，旨在应对人工智能相关的潜在风险，大幅提升针对AI公司的独立监管，同时推动建立「紧急停止开关」。 纽瑟姆指出，联邦政府在建立有效的AI监管或问责机制方面彻底失败，这应当引起每一位美国人的警惕，尤其是当AI公司的行政总裁们都在请求实施监管的时候。在总统特朗普和国会未能发挥领导作用的情况下，加州正在采取行动，保障所有美国人的安全。加州州长办公室发表声明，呼吁全美范

报道：Google、OpenAI和Anthropic拟组建前沿AI标准机构

The Information援引知情人士报道，谷歌、OpenAI和Anthropic正在推进一项成立人工智能（AI）安全标准机构的计划，该机构将不受政府监督。目标是在今年底前或2027年初启动。 暂定计划是将这一自律组织命名为“前沿AI标准机构”（Standards Authority for Frontier AI）。工作组成员已接洽数位“知名”人士担任首席执行官。接洽对象包括前风险投资人、曾

特朗普下周拟在白宫召集AI行业高管

人工智能（AI）安全和监管，这场源于对人类命运严峻警告的辩论，已在华盛顿和硅谷内部形成了两大阵营——以美国总统特朗普为首的“激进发展派”，以及以“AI三巨头”为首的“慢节奏派”。 AI安全引爆舆论这场舆论风暴最初是由Anthropic的研究员Jacob Coxon引发的。他上周宣布辞职，并指责该公司及其主要竞争对手OpenAI的行为不负责任。曾先后在这两家公司担任研究员的Coxon在X网站上发帖称

OpenAI、谷歌和Anthropic将于2027年初前成立人工智能安全组织：报道

在关于人工智能风险的激烈辩论中，据报道，OpenAI、Anthropic 和 Google 正计划合作成立一个 AI 安全组织。据 The Information 报道，这些 AI 巨头可能会在 2027 年初启动该项目。这个自律性组织暂定名为“前沿 AI 标准局”。 此计划的提出，距离前 Anthropic 研究员 Jacob Coxon 对 AI 公司敲响警钟仅数周时间，他声称 Claude