联合国聚焦人工智能风险 OpenAI与Anthropic负责人呼吁加强警惕与合作

23/09/2026 - 23:27 多家人工智能企业的负责人周三(9月23日）在联合国表示，人工智能的发展需要更高程度的警惕。Anthropic首席执行官达里奥·阿莫迪甚至承诺，必要时将单方面放慢研发速度。 OpenAI首席执行官萨姆·奥特曼在纽约向联合国安理会介绍情况时警告，人工智能目前的发展“需要极度关注”。他说：“随着人工智能

AI从业者担忧技术对社会构成威胁 坦言承受巨大精神压力

知情人士透露，英国人工智能安全研究所已有多名员工因压力过大休病假，并接受心理咨询。四名知情人士表示，待发布AI模型的测试日程紧张，加之对这类新兴技术快速落地、能力持续增强的忧虑，导致AISI内部士气低落、人员倦怠。 Anthropic、OpenAI与谷歌DeepMind的员工也曾公开吐槽同类问题，不少顶尖研究员因心理负担选择离职，或是认定自己参与研发的产品不宜向公众开放。一名DeepMind员工称

OpenAI老板称世界“有理由害怕”，但“应该信任”AI公司

英伟达的黄仁勋是近期人工智能热潮的领军人物。英伟达公司老板黄仁勋在回应日益增长的对人工智能威胁人类的担忧时表示，人工智能（AI）公司的负责人应该决定是否发布该技术的新版本。 “我们不需要新的法律或法规，”黄仁勋说，并补充说，在创新速度和人工智能产品的安全性之间不应该存在“虚假的二选一”。 英伟达是全球市值最大的公司，由于对其生产的人工智能计算芯片需求旺盛，公司利润大幅增长。 黄仁勋在人工智能安全问

AI安全阴影笼罩 初创企业吁欧洲保持乐观

位于德国弗赖堡的黑森林实验室是一家顶尖的AI图像生成专业公司，业务遍布北美和欧洲。（图：法新社） （弗赖堡27日法新电）一家领先的欧洲AI初创企业的负责人警告称，尽管关于AI危险的警告日益增多，欧洲仍需以更乐观的态度看待AI，否则可能进一步落后。 德国AI图像生成专业公司黑森林实验室首席执行员隆巴赫对法新社表示：“我认为欧洲的心态需要转向乐观和机遇，而不是风险和恐惧。” 在尖端AI模型方面，欧洲落

并非所有人工智能工作者都认为这项技术会杀死所有人

。并非所有在大型人工智能公司工作的员工都认为这项技术意味着人类的末日。 在文字交流和对话中，多位曾在OpenAI、Meta和DeepMind等公司工作过的人士对“不受限制的人工智能发展将导致大规模杀伤性工具出现”这一观点持怀疑态度。 对于近期业内人士发出的一连串高调警告，BBC收到的反应包括“哈哈”、“笑死”以及“纯属搞笑”等。 尽管这些担忧由来已久，但前Anthropic员工雅各布·考克森（Ja

科技领袖试图在不吓跑投资者的情况下传达对AI的担忧

关于人工智能发展程度与速度的争论，让科技公司高管们陷入了严重的两难境地。他们急于传达对该技术潜在危险的担忧，并提出了包括放缓其发展步伐在内的各种补救方案。但在投入数千亿美元资金后，他们又试图安抚公众情绪，同时避免惊动投资者和客户。上周，Anthropic PBC研究员雅各布·考克森辞职后，这场争论进一步升温。 关于人工智能发展程度与速度的争论，让科技公司高管们陷入了严重的两难境地。他们急于传达对该

AI先驱吴恩达称灭绝恐惧是“科幻小说”

人工智能先驱吴恩达表示，顶级模型开发商研究人员关于AI存在性风险的警告是“科幻小说”，可能会阻碍确保该技术为社会带来最大利益。 吴恩达曾参与创立Google Brain和Coursera，他指出，在AI热潮早期，科技行业曾煽动对AI潜在灾难性危害的恐惧，这似乎是为了增加曝光度和影响监管。他在周四接受电视采访时说：“过去两周我感到非常失望。这波公关活动再次掀起，目的可能类似。” 本月，前Anthro

法国防务集团泰雷兹呼吁各国政府监管人工智能

法国防务与科技集团泰雷兹的负责人周一（9月14日）呼吁各国政府承担起监管人工智能的责任，因为越来越多科技领袖对这项技术的迅速崛起发出警告。 “从技术角度看，有办法和手段将这类技术置于控制之下，但这还不够，”帕特里斯·凯恩在伦敦举行的泰雷兹英国科技大会上表示。“我们需要框架，而从责任角度来看，这显然掌握在政府手中，”凯恩补充说，并指出泰雷兹数十年来一直从事人工智能研究。 科技股周一承压，此前科技公司

欧洲人工智能企业奋起直追，对美国放缓发展的呼吁提出挑战

巴黎/法兰克福，9月18日：欧洲领先的人工智能公司Mistral及其他企业指责美国竞争对手利用安全担忧来巩固自身主导地位，拒绝Anthropic关于先进开发者应放缓步伐的呼吁。与此同时，欧洲正努力追赶。 Anthropic首席执行官达里奥·阿莫代伊在一篇在线文章中敦促企业放缓提升人工智能模型能力的步伐，并呼吁给予反垄断豁免，允许领先开发者联合制定安全措施。此前研究人员警告了人工智能的危险，包括其可

【华尔街日报】三大AI企业掌门人达成共识：模型开发需要降速

AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”

当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技

AI危机丨女股神:巨头承诺放缓开发 对技术发展具正面意义

近日接连有人工智能(AI)科研人员警告AI威胁人类生存，全球三大AI巨头舵手亦罕有地立场一致，同意放慢AI模型发展步伐。有「科技女股神」之称的方舟投资创办人兼行政总裁伍德(Cathie Wood)表示，AI领军企业承诺放缓该技术的快速发展，这是帮助确保和保障该行业发展的正面一步。 伍德通过方舟投资的公开市场和私募基金持有特斯拉(Tesla)、SpaceX、OpenAI和Anthropic的股份。她

Palantir联合创始人称AI一切都会好起来：“我们完全掌控局面”

一切都好！这是Palantir联合创始人的说法。在周六的一篇X帖子中，乔·隆斯代尔对先进AI系统可能导致人类大规模灭绝这一突出担忧不以为意，而近些天和近几周，前沿AI实验室的众多工程师和领导者一直在提出这一担忧。“世界会没事的，各位，”隆斯代尔说。“领导者面前有重大责任和挑战，但吓唬所有人无济于事。我们掌控着局面。” 这不太可能足以安抚人类大众的神经，他们已经一再被告知，AI可能掌控一切，做出各种

OpenAI首席执行员下周赴安理会作简报

阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国

花旗首席执行官预见在防御人工智能的竞赛中将出现“海啸”般的补丁

作者：艾莉森·麦克尼利（Allison McNeely）和托德·吉莱斯皮（Todd Gillespie）花旗集团首席执行官简·弗雷泽表示，随着人工智能模型变得愈发强大并可能引发网络攻击，各公司正竞相加强自身防御能力。 弗雷泽周日在纽约举行的卡塔尔经济论坛上表示：“目前存在一场防御竞赛，旨在巩固公司所有边界的安全，全球各公司正经历一场补丁更新的浪潮。” 今年早些时候，Anthropic PBC发布了

OpenAI：人工智能能力处于“不同阶段”，需要紧迫行动

该公司最高说客认为政策窗口仍然存在。美国总统唐纳德·特朗普称人工智能担忧是“骗局”。该国一家领先的人工智能公司周二表示，希望华盛顿仍能采取行动。 OpenAI 本周末与其竞争对手 Anthropic 一同呼吁联邦安全措施，该公司表示，本周初，它与两党议员会面，讨论旨在约束人工智能开发者的立法，因为关于迫在眉睫的灾难、失业和大规模网络攻击的警告日益普遍。 模型正以惊人的速度发展，代理商的行为方式让工

新加坡支持国际社会呼吁加强对前沿人工智能的保障措施

新加坡总理黄循财与20多位世界领导人签署联合声明，呼吁企业、国家和联合国成员国实施人工智能安全措施。 新加坡：在对人工智能技术风险的审视日益严格之际，新加坡支持来自20多位世界领导人的国际呼吁，要求为前沿人工智能建立更强有力的保障措施。 近几周，顶尖科学家和顶级实验室高管警告称，前沿人工智能的发展可能超越人类控制日益强大模型的能力，引发了人们对前沿人工智能的担忧。甚至有人警告称，如果人工智能发展不

OpenAI与Anthropic及Google就AI安全商合作 奥特曼认有理由恐惧

美国近日掀起一阵有关如何规管人工智能（AI）发展速度的讨论。OpenAI表示，正与其他AI企业，包括Anthropic和谷歌（Google）进行磋商，探讨如何携手解决安全问题。OpenAI行政总裁奥特曼（Sam Altman）则承认，外界对AI的忧虑是有道理的，因为这些工具的能力发展迅速。 Open AI的发言人9月15日（周二）向美媒CNBC表示，自从GoogleDeepMind的董事长哈萨比斯

据彭博新闻社报道，OpenAI正在与Anthropic和谷歌就人工智能安全展开合作。

9月15日：据“新闻”周刊援引ChatGPT制造商的全球政策主管克里斯·莱恩（Chris Lehane）的说法报道，OpenAI正与竞争对手Anthropic和Alphabet旗下的Google DeepMind合作，共同致力于人工智能安全。 在美国主要人工智能实验室的负责人周末团结一致呼吁暂停该技术发展后，全球对人工智能的生存风险的担忧日益加剧。 据报道，莱恩表示，OpenAI已与Anthrop

人工智能公司是否应为大规模枪击事件承担责任？

一系列针对 OpenAI 的诉讼再次引发了人们对人工智能企业隐私与安全实践的关注。这些诉讼的起因是 OpenAI 未能在加拿大历史上最严重的枪击案发生前，及时向相关部门预警其 ChatGPT 平台上出现的威胁信息。这些诉讼同时也引发了关于人工智能平台使用方式可能带来的法律责任的讨论。 最近一起诉讼是由不列颠哥伦比亚省提起的。这起诉讼发生在 18 岁的杰西·范·鲁特塞尔拉尔（Jesse Van Ro

美国AI巨头提议开发减速，欧洲同行和政界并不认同

随着对威胁的担忧加剧，查尔斯国王将与公司高管讨论人工智能

英国国王查尔斯本周将接待主要人工智能公司的领导人，讨论是否有必要制定一套共同原则，来指导一项已引发越来越多警告、被指威胁人类的技术。 在人工智能界一些最知名人士呼吁放缓其发展之际，查尔斯将接待来自英伟达、谷歌DeepMind、OpenAI、Anthropic的高管以及英国人工智能事务大臣，讨论如何利用这项技术造福社会并维护人类尊严。 当Anthropic的两名研究人员警告称，这项快速发展的技术可能

英国国王召集峰会聚焦AI风险 黄仁勋称不够安全的产品应推迟推出

人工智能（AI）行业的重量级人物齐聚苏格兰，英国国王在峰会上敦促他们确保不会失去对这项技术的控制。查理三世召集科技业领袖及其他具有影响力的人士举行峰会，聚焦日益加剧的AI风险。这个话题本周已成为全球关注焦点。与会高管没有公开承诺作出任何改变，但一些人对安全方面的担忧做出了直接回应。 “我们这些开发AI的人必须严格测试系统，”英伟达首席执行官黄仁勋周四在这场王室活动上简短发言称，“如果产品还不够安全

查尔斯国王呼吁英伟达（Nvidia）和OpenAI的负责人共同监管人工智能技术的发展。

英国君主计划向人工智能领域的一些最关键的人物寻求保证技术专家能够控制他们的发明。 Nvidia Corp.首席执行官Jensen Huang、OpenAI首席财务官Sarah Friar和Google DeepMind联合创始人Demis Hassabis将于周四出席国王查理三世在苏格兰举行的活动。Anthropic PBL和英国人工智能部长Kanishka Narayan的高级代表也将参加邓弗里