中美谈AI安全：共同的风险，不同的恐惧

中美谈AI安全：共同的风险，不同的恐惧 邓聿文：中美领导人讨论AI安全，当然有助于建立最基本的危机沟通和军事红线。但真正的较量，将发生在“安全”这个词由谁解释上。 美国财政部长贝森特和中国副总理何立峰在纽约举行的新一轮经贸会谈，除了关税、稀土、美国农产品和波音飞机仍是重要议题外，增加了人工智能安全这项新内容。贝森特向中方提出建立AI安全事件通报机制，双方同意启动相关对话，并把这一建议交给即将举

观点 | 美中在人工智能安全问题上分歧巨大

在@nytopinion。“当西方国家的辩论聚焦于人工智能对社会构成的危险时，中国的主要担忧却是它对国家政权构成的威胁，”约翰·加诺在客座文章中写道。 北京和华盛顿可能使用相同的人工智能安全话语，但他们试图保护的东西却截然不同。

让人工智能更安全并非不可能，但达成一致或许很难

美国实验室和美国当局之间存在分歧，美国和中国之间也存在分歧

中美AI竞赛：世界变得更危险还是更安全？

关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果

中美AI发展，各自有怎样的优势？

在新一轮中美经贸磋商中，人工智能成为议题之一。专家表示，当前中美AI发展路径各有侧重，未来双方可以围绕技术规则和安全风险展开更深入沟通。专家认为，包括“模型蒸馏”在内的一些行业实践，需要进一步明确边界和规则。只有把相关技术定义清楚，双方才有可能减少误解，并就具体问题展开技术性谈判。在安全方面，AI被用于扫描系统漏洞、强化网络攻击等风险也值得警惕。专家认为，中美可就相关高风险行为建立规则，避免AI技

美中人工智能安全会谈前夕分歧显现

美国在与中国高级经济官员的会谈中提议建立超级大国人工智能安全机制，但分析人士对华盛顿和北京能否就此问题或双方无数其他争端达成妥协表示怀疑。 近期，美中两国领导人大多保持了积极的言论，两国也已从一年前那种全面贸易战的状态中有所回撤。然而，双方在技术、贸易和台湾等问题上的分歧依然广泛且深重。 因此，一位学者指出，中国分析人士对本周领导人峰会的“基准预期”仅仅是双方休战的“延长”，而高盛则表示，其调查的

观点 | 美国和中国看待人工智能的问题截然不同

在@nytopinion.nytimes.com的文章中，Kyle Chan写道：‘人工智能安全专家认为中国对我们所担忧的问题也有同样的顾虑。’但实际情况是，中国有着不同的担忧。在我们了解这些担忧之前，与中国的合作是不可能的。’ 除非两国能就应关注的风险达成一致，否则合作只能是一个遥不可及的梦想。

CNBC每日开盘：人工智能安全吗？行业领袖和特朗普意见不一

大家好，我是李嘉欣，来自新加坡。欢迎收听 CNBC 的《每日开盘》。 关于人工智能“可能杀死全人类”的社交媒体狂潮，促使美国人工智能科技巨头们齐聚一堂，讨论安全问题以及放缓模型开发进程的前景。然而，美国总统唐纳德·特朗普对人工智能的讨论并不满意，他表示“人工智能唯一需要的控制或‘护栏’是一位强大而聪明的（高智商！）总统，而美国拥有这样的总统，而且不止一位！”与此同时，中东冲突的经济成本持续攀升，美

特朗普将AI安全担忧斥为‘骗局’，白宫内部存在分歧

特朗普公开将人们对AI可能导致大规模灭绝的担忧称为‘骗局’，并批评反对数据中心的观点，认为AI的发展对美国经济稳定和防止经济衰退至关重要。 这一立场得到了硅谷人士如大卫·萨克斯（David Sacks）、马克·扎克伯格（Mark Zuckerberg）和黄杰森（Jensen Huang）的支持，他们认为主要风险是落后于中国。 然而，白宫内部官员越来越担心包括基础设施黑客攻击、生物威胁以及对核指挥与

美国和中国同意AI需要护栏。他们的想法大相径庭。

美国的对话一直集中在保护人类免受这项技术的危害，而北京方面主要关心的是维护共产党的安全。

美国提议中美建立AI事故通报机制

“需要AI管控装置”vs“主导权被中国夺走”…意见分歧蔓延至华盛顿

▲ 当地时间13日，美国总统唐纳德·特朗普在从爱尔兰香农飞往马里兰州安德鲁斯联合空军基地的 “空军一号”专机上与记者们交谈。/关于因担忧人工智能（AI）可能失控而调整开发速度的争论，已从美国的硅谷蔓延至政界，正在演变成管控论。“如果美国在AI开发上踩刹车，可能会被中国夺走主导权。”因此对调整速度持否定态度。“应该为了防止AI脱离人类控制的风险而制定安全措施。”随着11月中期选举的临近，AI已成为政

美中AI竞争或进入关键时间节点

邓聿文：哪一种体系更有能力承受AI从实验室走向整个经济和社会之后带来的巨大资源需求、社会阻力和风险压力，也可能成为决定因素。 9月14日，全球AI相关股票出现一轮大跌。美国费城半导体指数一度下挫5.2%，欧洲和亚洲的AI概念股也普遍遭到抛售。芯片和半导体股大跌以前也出现过多次，但这次的背景很不一样，直接诱因是美国几位最重要的AI企业家公开要求给人工智能的发展踩刹车。 Anthropic首席执行官阿

中国在人工智能风险与国家安全方面的迥异路径

。在与布鲁金斯学会凯尔·陈（Kyle Chan）的问答中，讨论探讨了为何中国不像美国那样执着于人工智能的“生存”风险（人类灭绝）。相反，中国共产党关注的是政治稳定、网络战以及“失控”事件。 中国担忧的关键触发因素包括Anthropic的“Mythos”模型的网络能力，以及OpenAI模型突破沙箱攻击Hugging Face的事件。 虽然美国担心超级智能，但中国担心深度伪造会破坏中共的统治以及就业流

美国和中国将讨论人工智能安全风险，以及合作监控由人工智能主导的网络攻击

美国希望讨论合作监控人工智能主导的网络攻击，并提出了一个建议，要求美国和中国的AI实验室“自我监管”并共享信息。

贝桑指中美两个月后在深圳再就AI安全会谈

美国财政部长贝桑表示，中美两国高级官员将在大约两个月后在中国深圳再次会晤，讨论人工智能的潜在风险，以及在发生人工智能安全事件时的沟通机制。 贝桑向CNBC透露，在周日与中国副总理何立峰的会谈中，双方同意建立关于人工智能的正式对话机制；其中，包括一条用于就人工智能安全事件进行沟通的应急热线，「我们希望开始讨论相关协议，以便双方就主要的人工智能风险达成共识，无论是失控的智能体、非国家行为体，还是网络领

中美拟建立高危人工智能事件通报机制 以防范重大国家安全风险

尽管美中两国在诸多领域存在战略竞争，但据科技媒体报道，美国正寻求与中国建立一套安全通报机制，以便在发生可能引发严重国家安全威胁的人工智能危险事件时向对方发出预警。 这一设想由大西洋理事会与安全探索国际组织联合提出。该机制的核心目标在于，通过设立专门的预警渠道，确保两国能够在严重人工智能安全事件演变成地缘政治危机或军事冲突前及时取得联系。报道指出，由于人工智能技术的快速演进，自动化系统极有可能在不受

人工智能安全辩论

美财长：美方愿与中方讨论人工智能“共同风险”

美国新媒体Axios 9月17日发表独家报道称，美财政部长斯科特·贝森特表示，愿在本周末即将举行的人工智能相关会谈中，与中方讨论双方面临的共同风险。这次表态出现在特朗普政府明确拒绝业界放缓人工智能研发呼声、强调正与中国激烈竞赛的背景下。 贝森特计划与中国国务院副总理何立峰会面，外界认为这可能为中美在人工智能安全合作上打开对话窗口。“美国仍是人工智能领域的领导者。我们愿就避免共同风险、避免两套体系走

美中领导人峰会期间实现缓和的希望渺茫

分析人士对美中两国在下周领导人峰会期间就人工智能监管达成一致，或实现任何广泛缓和持怀疑态度。 美国财政部长在峰会前夕告诉Axios，他愿意在本周末的会谈中与北京讨论人工智能方面的“共同风险”。 《经济学人》承认，“过去，激烈的竞争对手曾携手遏制对人类的威胁”，但指出这两个超级大国及其人工智能实验室之间存在深刻的不信任。 一位顶尖中国问题专家在《外交事务》杂志上写道：“过去，当条件恰到好处且拥有卓越