AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”

当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技

美国联邦贸易委员会对Anthropic、OpenAI及其他AI模型展开大范围调查

多名政府官员透露，美国联邦贸易委员会（FTC）正扩大一项大范围调查，针对Anthropic、OpenAI以及其他前沿人工智能实验室，排查其技术可能给消费者带来的潜在风险；委员会计划向这些科技巨头下发正式调取文件要求（效力近似传票），强制其提交相关资料。 FTC主席安德鲁·弗格森在一次测试中某款AI模型出现失控行为（也就是后来所称的“Hugging Face事件”）之前，就已启动这项调查。目前该机构

美国在G20推动对人工智能监管采取不干预态度

世界主要经济体的代表一致同意采纳美国提出的指导方针，主张对人工智能及其他新兴技术采取较为宽松的监管方式。在G20部长级会议上，美国敦促各成员避免为人工智能制定新规则，强调行业发展优先于监管约束。 美国官员和公司高管表示，严格的规则可能扼杀一个能够治愈疾病并极大推动全球增长的行业。这些目标与全球最大的人工智能公司的想法基本一致，而这些公司几乎全部来自美国。 该协议代表了特朗普政府和硅谷的一次胜利。与

联合国秘书长警告AI风险：全球不能陷入逐底竞争

联合国秘书长古特雷斯当地时间周三警告各国领导人，快速发展的人工智能(AI)正在带来不容忽视的风险，全球不能承受AI安全领域逐底竞争的风险。这一表态与美国总统特朗普形成分歧，后者此前表示，现有的监管措施已经足够。 在下周联合国大会于纽约举行之前，古特雷斯表示，加强对AI的监管将成为他与各国领导人会谈时重点讨论的问题之一。 在新闻发布会上，“当我们审视世界各地面临的威胁时，我想就AI快速发展所引发的日

特朗普与顶级人工智能领袖同意自愿性人工智能标准

特朗普总统周二表示，顶尖人工智能企业高管同意采用旨在加强行业监督的自愿性标准。 为何重要：随着业界面临加强安全防护措施的压力，该协议将让人工智能企业承担起监管自身技术的责任。 新闻动因：特朗普与众议院议长迈克·约翰逊周二下午宣布，多家人工智能行业巨头签署了一项自愿协议，并将该协议称为“协议”，明确了审查人工智能系统的标准。 协议称：“首先，每一家训练和部署前沿模型的公司都必须建立完善的内部流程

加州颁布针对儿童社交媒体使用的新限制

加州州长加文·纽森周四签署新法律，限制科技公司让16岁以下儿童接触社交媒体平台上具有行为成瘾性的功能，并禁止销售内置AI伴侣聊天机器人的玩具。 这两项措施是纽森作为一揽子计划签署的13项法案中的一部分，旨在保护年轻人免受被视为使其面临风险的科技影响，其中包括加强对未成年人的在线隐私保护。 另一项措施扩大了对儿童性虐待材料的刑事处罚范围，将任何数字篡改或AI生成的内容（描绘18岁以下人士从事性行为）

特朗普与约翰逊预告一项新的AI自律协议

美国总统唐纳德·特朗普和众议院议长迈克·约翰逊今天对记者表示，他们正准备与前沿人工智能实验室发布一项自律协议。 这项尚未公布的协议引发了人们对执行力度（约翰逊提到对未达标的AI公司采取“后果”）以及监管深度的质疑。 在与十多位人工智能和科技公司首席执行官在白宫会面后，特朗普向Semafor总结了他对待AI安全的态度，即“应该有极大的自我监管”，而约翰逊则将即将出台的行业协议描述为“强有力的内部控制

人工智能倡导团体发起州级政策推动行动

旨在推动建立更强有力的人工智能安全护栏的非营利组织“负责任创新美国人”（ARI）周四发起了一项新的州级倡议，专注于在全美50个州倡导人工智能政策。 该努力旨在推动制定政策，以应对来自尖端人工智能模型的风险，以及对工人、儿童和家庭的威胁。“为了成功通过安全护栏……”

纽约市公校将颁布AI禁令 八年级以下学生禁用AI

（纽约2日法新电）纽约市将禁止公立学校八年级及以下学生使用人工智能（AI），一位知情人士周三向证实了这一消息，并确认了美国媒体的相关报道。 教师和家长一直对学校使用AI表示警告，担心其危害儿童的心理健康和认知发展，以及造成环境损害。 该消息人士称，AI使用将仅限高中阶段（美国学制中九年级开始），即便如此，也仅限于特定用途，例如学习技术本身。美国八年级学生通常约13岁。纽约市政厅和市教育局未立即回应

人工智能辩论已在塑造2028年大选。以下是民主党潜在候选人的立场

卡玛拉·哈里斯：这位前副总统、2024年民主党总统候选人哈里斯长期主张为人工智能发展设置安全护栏，同时推动美国经济增长，但近来越发赞同放缓人工智能发展的呼吁。担任副总统期间，哈里斯牵头拜登政府了解并降低人工智能带来的风险。2023年，她曾表达对人工智能短期风险的担忧，包括虚假信息及其传播对民主造成的威胁，以及隐私问题。9月14日，在科技行业高管呼吁放缓人工智能发展后，哈里斯再次强调有必要加强联邦层

纽森签署法案，帮助好莱坞工作人员适应人工智能技术的发展 纽森州长签署了一项法案，旨在帮助好莱坞的工作者们适应人工智能技术的发展趋势。该法案旨在为相关行业提供培训和支持，以帮助他们掌握新的技能，从而应对人工智能带来的挑战。随着人工智能技术的不断进步，许多传统的工作岗位可能会被自动化取代，因此这项法案对于保护好莱坞从业者的就业权益具有重要意义。

这项措施是加州首批直接针对好莱坞及这项迅速演变技术的法律之一。 洛杉矶——州长加文·纽森办公室周五表示，在呼吁对人工智能安全协议采取更积极行动的同时，纽森已签署一项立法，旨在帮助娱乐行业从业者为日益受该技术塑造的行业做好准备。 这项立法规模不大——设立了一个1500万美元的社区学院培训试点项目。但它也是加州首批直接聚焦好莱坞与人工智能的法律之一。 “从无声电影时代到今天，好莱坞一直拥抱技术变革——

Anthropic、OpenAI、谷歌秘密磋商筹建AI安全标准机构

据知情人士透露，早在 Anthropic 首席执行官达里奥・阿莫代伊上周六呼吁 AI 企业协同开展技术测试与审计之前，Anthropic、OpenAI 与谷歌就已经展开磋商，计划携手成立一家 AI 行业标准机构。 知情人士称，OpenAI 首席执行官山姆・奥特曼本周早些时候在公司全员员工大会上表示，他支持设立 AI 行业测试与审计机构，但他认为，主要 AI 实验室必须在美国政府不提供支持的前提下，

梅宁的AI时刻

城市HAL 9000：在试图规范人工智能的紧急行动中，市议会议长朱莉·梅宁正试图留下自己的印记。这位来自曼哈顿的议员计划下周与市议会的全部51名成员举行听证会，并已确认四家大型人工智能公司将出席此次会议，讨论这项技术所带来的风险以及一系列旨在保护纽约市民的法案。 梅宁在一份声明中表示：“顶尖专家和人工智能企业的高管们都在警告我们：快速发展的AI技术可能带来严重的风险，政府有责任采取行动。”她同时宣

机密评估显示，美国国家安全局正花费数十亿美元测试人工智能模型

据两名了解机密情报评估的消息人士称，美国国家安全局向议员表示，今年将耗费纳税人数十亿美元的资金，对先进人工智能模型进行评估和测试。 消息人士称，这笔开支——明显高于此前已知的水平——使议员们认为，一套更全面的人工智能监管体系可能每年让政府耗费数百亿美元。 美国总统唐纳德·特朗普大多拒绝了对人工智能加强联邦监管的呼声，否决了国会议员和前沿实验室提出的、对相关模型施加新保障措施的监管方案。但在一系列备

普利兹克在伊利诺伊州设立人工智能内阁，与此同时外界呼吁加强监管

本·萨林斯基/《Capitol News》伊利诺伊州州长JB·普里茨克正在州政府内部成立一个新的机构，以探讨针对人工智能的更多监管措施。随着全国范围内要求加强监管的呼声日益高涨，普里茨克做出了这一决定。 周二，普里茨克签署了一项行政命令，成立了由专家及多个州政府机构代表组成的“人工智能内阁”。这个非营利性质的咨询小组将在2027年前制定相关政策建议，重点分析和评估“人工智能对伊利诺伊州居民安全以及

🔊 要求限制先进人工智能模型的呼声日益高涨。但美国和中国会

据The Information报道，Google、OpenAI和Anthropic计划成立AI安全机构

据The Information周四报道，Google、OpenAI和Anthropic计划建立自己的AI安全标准机构，不受政府监管。这三家公司希望在今年年底或2027年初推出该机构。 据知情人士向The Information的Leo Schwartz和Stephanie Palazzolo透露，他们暂定将其命名为“前沿AI标准局”。工作组成员已考虑多位知名人士担任首席执行官一职。TNW未独立核

亚历克斯·博尔斯发起3000万美元行动，以在人工智能问题上统一民主党人

纽约——据该组织的新网站称，一位因在今年一场失败的国会竞选中反对不受约束的人工智能而获得全国关注的州议员，正发起一项耗资3000万美元的行动，旨在团结民主党人共同监管这项技术。 纽约州众议员亚历克斯·博雷斯将于周二揭晓这个名为“谁来决定”的组织，据周一晚间公开的网站称，该组织旨在“打造民主党在人工智能问题上的制胜答案”。 该网站周二发布的一份公告写道：“‘谁来决定’的目标是，到2028年，从最高层

AI深度伪造 购房者面临日益严重的诈骗威胁

众所周知，在通往拥有自己的房产的道路上，一直都充满著障碍。然而，由于人工智能（AI）的发展，一种老套的房地产骗局——交割资金诈骗——正在以一种新的方式出现。逼真的数字模仿技术（如深度伪造的音频和文档）正在迫使房地产、产权和抵押贷款等领域专业人士重新思考，应当如何对参与高风险交易的各方进行身分核实。根据联邦调查局（FBI）发布的《2025年互联网犯罪报告》（2025 Internet Crime R

新诉讼指控Anthropic、OpenAI等四巨头达成非法协议放缓AI开发

该诉讼于周五向美国加利福尼亚北区联邦地区法院提起。诉状认为，这些头部 AI 企业达成协同减速共识的行为涉嫌违反反垄断法，此举还会降低消费者购买 AI 付费订阅服务所能获得的价值。 诉状称，这场协同行动主要发生在 9 月 12 日。当日 Anthropic 首席执行官达里奥・阿莫代发布一篇文章，呼吁全行业开展合作，放缓技术迭代速度，把重心放在强化安全措施上。 大量失控 AI 智能体有可能仅用短短六个

特朗普与科技领袖签署自愿协议，自我监管AI发展

周二，在白宫午宴上，美国总统唐纳德·特朗普与美国最大的科技和人工智能公司领导人签署了一项自愿的、具有道德约束力的协议。该协议名为《前沿责任联合承诺》，旨在建立安全标准，以应对公众对人工智能技术日益增长的担忧和风险。签署者包括谷歌、Anthropic、Meta、OpenAI、X和英伟达的老板，以及达里奥·阿莫代伊、格雷格·布罗克曼、杰夫·贝索斯和埃隆·马斯克等高管。 该协议侧重于行业自我监管，呼吁建

律师事务所争相抢夺AI竞赛中的技术人才

纽约市议会就AI安全传唤马斯克的SpaceXAI

纽约市议会议长朱莉·梅宁（Julie Menin）周一表示，纽约市议会已向埃隆·马斯克的SpaceXAI发出传票，要求其在人工智能安全听证会上宣誓作证。Anthropic、OpenAI、谷歌和Meta均已同意出席。 听证会定于10月5日星期一举行。这将是一场罕见的全体委员会会议，届时所有51名议员将齐聚一堂。市议会表示，这将是自近期有关人工智能模型事故的报道发布以来，主要人工智能公司首次在公开场合

科技领袖就人工智能放缓问题持对立立场

科技领袖在监管人工智能问题上持对立立场，表明行业内部裂痕日益加深。OpenAI首席执行官萨姆·奥尔特曼——上周他不仅呼吁美国进行监管，还呼吁华盛顿和北京之间达成一项协议——表示他的公司正在与Anthropic和谷歌合作，以遏制围绕这项技术的担忧。 然而，英伟达首席执行官黄仁勋与Meta首席执行官站在一起，拒绝协调人工智能放缓的呼吁，称没有必要对人工智能安全进行监管。专家担心，在中期选举之前，美国进