安理会本周开会讨论AI和国际安全问题，DeepSeek公司被曝将作通报

【文/观察者网 熊超然】9月22日，路透社援引两名知情人士独家报道称，随着各国领导人近期齐聚纽约参加第81届联合国大会，中国人工智能（AI）初创企业深度求索（DeepSeek）将与其他公司一道，在本周向联合国安理会介绍AI带来的风险情况。安理会定于9月23日开会讨论AI与国际安全问题。此前，多名AI行业的重要人物曾呼吁协同放缓日益强大的AI系统开发速度，并警告称，这些系统可能很快具备自我改进能力，

美中AI竞争或进入关键时间节点

邓聿文：哪一种体系更有能力承受AI从实验室走向整个经济和社会之后带来的巨大资源需求、社会阻力和风险压力，也可能成为决定因素。 9月14日，全球AI相关股票出现一轮大跌。美国费城半导体指数一度下挫5.2%，欧洲和亚洲的AI概念股也普遍遭到抛售。芯片和半导体股大跌以前也出现过多次，但这次的背景很不一样，直接诱因是美国几位最重要的AI企业家公开要求给人工智能的发展踩刹车。 Anthropic首席执行官阿

随着对人工智能的担忧加剧，OpenAI、Anthropic和谷歌正在商讨建立一个标准机构。

全球最大的AI公司正致力于创建一个新的行业标准机构，OpenAI于周二表示，此举正值人工智能风险引发的担忧日益加剧，要求加强监管和推动技术更安全发展的压力不断增大。 全球最大的AI公司正在着手创建一个标准机构，ChatGPT的开发者OpenAI于周二表示，眼下人们对AI危险的担忧日益上升，并且面临创造更安全版本技术的压力。 阅读更多扎克伯格在AI宣言中设想为每个人实现“超级智能” OpenAI表示

🔊 要求限制先进人工智能模型的呼声日益高涨。但美国和中国会

中美应管控人工智能风险，同时维持战略竞争

中美应管控人工智能风险，同时维持战略竞争 孙昱：美国和中国作为全球领先的两个AI大国，即便在技术、贸易和军事领域继续竞争，也应该防止AI失控式发展。 在美国对华政策制定颇有影响的众议员Ro Khanna近日呼吁两国就人工智能安全建立合作监管机制，称两国在日益激烈的战略竞争中仍应寻找共同利益，以避免AI无序发展带来灾难性风险。 Khanna周一在纽约亚洲协会发表演讲时表示，美国总统特朗普和中国国

OpenAI、Anthropic和谷歌就人工智能安全问题已进行了数周的讨论。

OpenAI 全球政策主管克里斯·莱恩（Chris Lehane）周二告诉记者，该公司数周来一直与竞争对手 Anthropic 和 Google DeepMind 合作，共同应对人工智能安全问题，这是《华尔街日报》首次报道的。据报道，莱恩正在华盛顿与美国议员合作，处理与人工智能相关的灾难性风险。 此前，Anthropic 首席执行官达里奥·阿莫代（Dario Amodei）于周六发表了一篇题为《人

AI风险丨谷歌OpenAI和Anthropic传成立安全标准机构

谷歌、OpenAI和Anthropic传成立AI安全标准机构。(路透资料图片) 外电引述消息人士报道，谷歌(Google)、OpenAI和Anthropic正推进一项计划，筹建一个新人工智能(AI)安全标准机构，暂定名称为「前沿人工智能标准机构」(SAFA)，目标是在2026年底或2027年初启动，并在没有政府直接监督的情况下独立运作。 消息指出，该机构计划为前沿AI模型制定自愿性的安全和安全保障

科技领袖就人工智能放缓问题持对立立场

科技领袖在监管人工智能问题上持对立立场，表明行业内部裂痕日益加深。OpenAI首席执行官萨姆·奥尔特曼——上周他不仅呼吁美国进行监管，还呼吁华盛顿和北京之间达成一项协议——表示他的公司正在与Anthropic和谷歌合作，以遏制围绕这项技术的担忧。 然而，英伟达首席执行官黄仁勋与Meta首席执行官站在一起，拒绝协调人工智能放缓的呼吁，称没有必要对人工智能安全进行监管。专家担心，在中期选举之前，美国进

人工智能“放缓”是一场反垄断乱局

在有报道称多起AI智能体集群攻击网站并通过秘密留言板进行协调，以及一位即将离职的Anthropic工程师向人类发出严峻警告之后，多家领先AI公司呼吁协调一致地“放缓”AI开发。除了反复使用“放缓”这一特定措辞外，它们还表达了对这样做可能触犯反垄断法律的担忧。 反垄断专家表示，尽管这些公司的激烈措辞未必对它们有利，但放任一个失控的杀人AI发展，恐怕也不符合《谢尔曼法》的精神。这部美国关键反垄断法律的

FTC主席对AI反垄断豁免呼声持怀疑态度

9月15日：美国联邦贸易委员会主席周二表示，对于寻求反垄断豁免、同时又在游说制定新规的AI公司，“所有人都应深怀警惕”。 FTC主席安德鲁·弗格森在华盛顿乔治城大学的一场活动上发表了上述言论。弗格森指出，他表达的是个人观点，而联邦政府的人工智能政策将由总统唐纳德·特朗普制定。 “不过，总的来说，如果企业同时来到华盛顿，既要求出台一系列监管规定，又要求反垄断豁免，那我的所有警报都会拉响，”他说。 “

美国扩大AI算力围堵 东南亚数据中心或成下一波审查目标

（华盛顿6日综合电）据美媒报道，美国政府正酝酿一项针对AI的新出口管制规则，计划限制中国企业远程调用部署在泰国、新加坡等第三国的先进AI服务器，此举可能对东南亚数据中心产业带来深远影响。 据美国科技媒体《The Information》报道，特朗普政府正在起草新的AI出口管制规则，美国商务部最快可能在9月向行业组织征求意见。截至9月4日，正式规则文本尚未对外公开，目前披露的细节均来自匿名消息源。

OpenAI敦促美国牵头为人工智能制定全球标准

OpenAI敦促美国牵头与其他国家共同为前沿人工智能（AI）制定标准，以回应对AI潜在危害日益加剧的担忧。OpenAI周一在博客文章中表示，为了安全地发展人工智能，有必要制定国际技术标准，特别是帮助界定涉及AI模型的哪些类事件应当通报，明确各国如何开展AI发展合作，以及改善开发此类技术所需算力的获取。 “要让AI的持续进步安全有益，既需要推进对齐研究，也需要制定共同标准，为各实验室和各国的AI开发

美国司法机构正在制定关于法院使用人工智能的新指南

一位负责评估新兴技术的法官周四表示，美国联邦司法机构正在努力为法官制定关于在法院运作中使用生成式人工智能的新指南，目标是在未来一年内提出新建议。

人工智能辩论已在塑造2028年大选。以下是民主党潜在候选人的立场

卡玛拉·哈里斯：这位前副总统、2024年民主党总统候选人哈里斯长期主张为人工智能发展设置安全护栏，同时推动美国经济增长，但近来越发赞同放缓人工智能发展的呼吁。担任副总统期间，哈里斯牵头拜登政府了解并降低人工智能带来的风险。2023年，她曾表达对人工智能短期风险的担忧，包括虚假信息及其传播对民主造成的威胁，以及隐私问题。9月14日，在科技行业高管呼吁放缓人工智能发展后，哈里斯再次强调有必要加强联邦层

美商务部长证实准备对半导体加征新关税：所有相关企业都知道即将到来

尽管面临科技行业警告，美国商务部长卢特尼克（Howard Lutnick）证实，特朗普政府正在酝酿针对半导体的新一轮关税措施，旨在抑制外国市场并促进国内生产与投资。 卢特尼克周三在“我认为，你们将看到的是有针对性且深思熟虑的关税政策，如果你在这里（美国）建厂，就无需缴纳（关税）；但如果你不在这里建厂，就得为进入这个世界上最大的市场付钱”。 “所有相关企业都知道它们（关税）即将到来”。此前，科技界人

中美专家呼吁建立“核安全级”AI防护机制 防范超级人工智能失控风险

来自美国和中国的国家安全、科技政策及人工智能领域专家近日共同提出一项引人关注的建议，主张借鉴冷战时期核安全管理经验，为未来可能出现的高级人工智能系统建立类似核武器领域的安全保障机制，以降低技术失控、误判以及国际竞争升级所带来的风险。 这一建议出现在一份由两国专家共同参与讨论后形成的研究成果中。报告认为，随着人工智能能力持续快速提升，各国已经开始面对一些与核时代早期相似的问题，即一种具有巨大潜在影响

克鲁兹和霍利叫停人工智能公司的反垄断豁免

周二，两位共和党参议员表示，应排除为人工智能公司提供反垄断豁免以促进有关如何使人工智能更安全的讨论——因为立法者正在讨论如何应对行业关于快速发展的技术需要护栏的警告。“看到人工智能首席执行官说，‘我们即将毁灭世界，所以请给我们政府的控制权，以便我们巩固垄断地位并阻止任何创新者挑战我们’，这简直是疯了，”参议院商务委员会主席泰德·克鲁兹（共和党，德克萨斯州）在与联邦调查局局长克什·帕特尔举行的参议院

人工智能是否需要反垄断豁免，以免它把所有人都干掉？？？？

今天，我们将带来关于商业未来系列报道的第一部分，我将与乔纳森·坎特（Jonathan Kanter）进行对话。他曾任拜登政府时期美国司法部反垄断主管。如今，他既是华盛顿大学（WashU）的法律教授，也是卡内基梅隆大学的技术政策教授。 当前科技领域最大的新闻，是关于人工智能安全与监管的激烈争论。包括Anthropic和谷歌DeepMind在内的主要人工智能实验室的研究人员以高调的方式离职，声称这些模

特朗普称美国司法部将对人工智能进行约束 '如果必要的话'

美国总统唐纳德特朗普周一表示，美国司法部和其他美国执法机构将对人工智能相关风险进行约束 "如果有必要的话"。 特朗普在Truth Social平台上发文表示："我们将非常谨慎。" 特朗普将司法部等机构作为约束人工智能的后盾，这与他多次将人工智能潜在危险称为骗局的立场一致。 总统一直将美国公司的人工智能发展作为美国的竞争优势来吹嘘，并表示希望保持这种优势。 特朗普在Truth Social上写道："

两党众议院二人组欢迎业界支持其人工智能安全提案

共和党籍的两党人工智能安全立法共同提案人表示，他与OpenAI的最高游说者进行了会面，次日该公司便表态支持该法案中的一项关键条款，而这项法案在国会山一直难以取得进展。“我们讨论了采取行动的迫切需要，”加利福尼亚州众议员杰伊·奥伯诺尔特在谈及周一与OpenAI首席全球事务官克里斯·莱汉的会面时对记者表示。 “他实际上是在问自己怎样才能帮上忙。所以，我们正在努力规划一条前进的道路。”奥伯诺尔特接着说，

中国外交部：散播AI威胁叙事不符合任何一方利益

美国AI巨头Anthropic首席执行官阿莫迪上周末呼吁前沿公司一致放慢开发人工智能步伐，争取时间制定安全标准。这番言论迅速获OpenAI首席执行官奥尔特曼、拥有xAI的美国首富马斯克等支持。中国外交部则表示，散播各种威胁叙事、搞对抗和恶意竞争，不符合任何一方利益。 阿莫迪星期六（9月12日）在个人博客撰文说，AI发展出更强的自我迭代能力，以及最近OpenAI智能体私自入侵Hugging Face

中美达成“超级智能”沟通机制 两国首次建立AI重大风险联络渠道

在人工智能竞争持续升温之际，中美两国正尝试建立新的安全协调机制。根据双方最新达成的安排，中美同意设立专门针对“超级智能”（Super Intelligence，简称SI）风险的双边沟通渠道，以加强未来在前沿人工智能领域的信息交流与风险管理。 这一安排被视为近期中美人工智能对话取得的重要成果之一。根据美方公布的信息，双方将在未来数月内继续推进相关机制建设，并计划于11月前举行新成立的“中美超级智能对

加州州长纽森签署行政令，旨在强化人工智能安全与保障法规

2026年9月18日星期五，加州州长加文·纽森发布了一项行政令，成立了一个工作组，旨在强化该州的人工智能安全与保障法规。该工作组的任务是在两个月内提供一份概述具体安全措施的指南。 供工作组审议的关键提案包括：要求人工智能公司为前沿模型开发“紧急关闭按钮”，并强制要求独立第三方为前沿人工智能公司起草安全计划。

黄仁勋驳斥AI失控论：人类不会在2030年走向灭亡

英伟达CEO黄仁勋在当地时间周二晚间的一次采访中批评了Anthropic的AI安全反垄断豁免提议，该提议旨在协同放缓前沿AI模型的开发，并驳斥了有关人工智能可能在十年内灭绝人类的论调。 黄仁勋是在接受美国知名财经主播吉姆・克莱默采访时发表上述言论的。此前，Anthropic首席执行官达里奥・阿莫代伊于上周六发布一篇文章，引发了一场围绕人工智能安全的激烈讨论。阿莫代伊提出，领先的AI实验室应当协同