李飞飞谈AI安全：不能只让开发者评估自己的系统

凤凰网科技讯月23日由独立机构和公共部门对AI进行更多监督。她认为，对于能力日益强大的AI系统，其安全评估不应完全交由开发这些系统的公司负责。 作为斯坦福大学教授、World Labs联合创始人，李飞飞周二表示，尽管AI公司的内部研究人员可以评估单个模型的能力和安全性，但这无法替代由政府、行业和学术机构共同制定的更广泛标准。 “我仍然认为，由独立机构以及学术界等公共部门制定基准非常重要。同时，行业

特朗普前人工智能事务主管告诉Anthropic和OpenAI放慢脚步，并停止索取任何回报

David Sacks告诉Anthropic和OpenAI，尽管去把控前沿节奏，但不要再寻求反垄断豁免或审批制度，理由是产品责任和市场压力已经在约束它们。欧洲在2025年2月就责任问题得出了相同结论，并从12月9日起将独立软件视为严格责任下的产品。 据ANI报道，David Sacks告诉Anthropic和OpenAI，尽管放慢脚步，不要再要求任何回报。他担任总统科技顾问委员会主席，并在3月之前

切斯ky在Communacopia上表示，人类需要“驾驭人工智能的浪潮”，而不是被其吞没

高盛Communacopia + 技术会议于周四继续进行，英伟达首席执行官黄仁勋、优步首席执行官达拉·霍斯罗沙希和SpaceX首席财务官布雷特·约翰森等知名人士将登台演讲。 自周二开幕的这场顶级高管年度会议以来，人工智能一直是讨论的热门话题。 Airbnb首席执行官布莱恩·切斯ky在周四播出的CNBC大卫·法伯的采访中表示，这项技术“本身并无好坏之分”。他认为该技术的潜力掌握在人类手中。“我不敢确

加州民主党人：“我们需要与人工智能进行一次安全暂停”

加州民主党众议员乔治·怀特赛德斯（George Whitesides）周一表示，在美国科技行业和国会议员纷纷呼吁对人工智能（AI）进行监管之际，美国需要对AI采取“安全暂停”。怀特赛德斯在接受NewsNation频道布莱克·伯曼（Blake Burman）在“国会山”节目中的采访时说：“我正在阐述我们如何发展AI的愿景。”“我认为，根据我在航空航天行业的经验，在处理事故恢复和事故流程方面，我们需要

美国提议中美建立AI事故通报机制

特朗普称尽管业界警告，人工智能不需要更多护栏

特朗普总统驳回了对人工智能实施更严格联邦监管的必要性，尽管行业领袖正就自家技术可能带来的危险发出紧急警告。 总统声称，一场阴谋正在削弱对人工智能和数据中心的支持；与此同时，业内人士对该技术风险的担忧日益加剧。

莉兹·皮克：人工智能警钟正在敲响，特朗普必须认真对待

秘密已经泄露。人们对于人工智能代理失控、密谋对付其所有者、入侵外部公司，以及新系统濒临人类无法控制的边缘的担忧日益加剧，如今已彻底沸腾。业内人士警告说，人工智能机器人可能会杀死我们所有人，这正在煽动我们最深的恐惧。 特朗普总统需要认真对待这些对人工智能的担忧，与科技领袖合作，建立可信且可执行的安全措施，并在国会中领先于那些想要监管该行业的民主党人（以及一些共和党人）。对于经济和我们的国家安全来说，

马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

法国防务集团泰雷兹呼吁各国政府监管人工智能

法国防务与科技集团泰雷兹的负责人周一（9月14日）呼吁各国政府承担起监管人工智能的责任，因为越来越多科技领袖对这项技术的迅速崛起发出警告。 “从技术角度看，有办法和手段将这类技术置于控制之下，但这还不够，”帕特里斯·凯恩在伦敦举行的泰雷兹英国科技大会上表示。“我们需要框架，而从责任角度来看，这显然掌握在政府手中，”凯恩补充说，并指出泰雷兹数十年来一直从事人工智能研究。 科技股周一承压，此前科技公司

视频 人工智能安全警告日益紧迫 美国领导人的回应

科技界针对人工智能潜在危害发出的警告日益紧迫，各国呼吁政府加强监管的呼声也不断上升，不过特朗普政府反对，请看视频报道。 针对近期科技界领袖呼吁加强政府监管的举动，美国总统特朗普正带头表示反对。 美国总统在周一表示限制该技术的举措是一场“阴谋”，众议院议长迈克·约翰逊则在很大程度上听从了白宫的意见。 美国总统特朗普表示 :“我们可以设立护栏，可以采取各种措施，但我认为有很多负面势力在炒作这些问题，本

中美AI竞赛：美国在哪些领域领先、哪些领域落后？

DUSTIN VOLZ, CADE METZ2026年9月24日7月在上海举行的世界人工智能大会。中美两国正陷入一场人工智能竞赛，双方都认为这场竞赛对在军事、技术和经济领域占据上风至关重要。 Ng Han Guan/Associated Press特朗普总统将在周三晚间起迎接中国国家主席习近平进行国事访问，届时将有很多问题需要讨论，包括伊朗战争、台湾和关税问题。但在最近几周，没有任何话题比双方能否

独家：考克森、伯尼与班农联手推动“亲人类”人工智能

前Anthropic研究员弓箭手雅各布·考克森，参议员。 伯尼·桑德斯和特朗普前白宫顾问史蒂夫·班农将于周二联手参加一场活动，推动由人类控制的人工智能。一位行业内部人士、进步运动的代表人物和MAGA阵营的重要声音结成了看似不可能的联盟，这标志着人工智能正在颠覆政治常规。推动这一进程的未来生命研究所正在组织周二的“亲人类大会”。这家非营利倡导组织是“亲人类人工智能宣言”的幕后推手，该宣言呼吁保护人类

萨姆·奥尔特曼表示，应对人工智能恐惧需要“务实主义”

关闭 更多关于萨姆·奥尔特曼对人工智能未来的言论。 板块新闻发布于23小时前分享关闭面板分享页面复制链接关于分享相关话题人工智能关注人工智能关闭面板您现在正在关注人工智能来自您的新闻主题的更新将出现在“我的新闻”中以及新闻主页的集合中。阅读描述

法国泰雷兹公司呼吁制定人工智能发展的国际框架

巴黎，9月17日：欧洲最大的国防技术公司——总部位于法国的泰雷兹公司——周四呼吁制定一个国际框架来规范人工智能的发展。 在一场关于人工智能发展速度的辩论中，该公司首席执行官帕特里斯·凯恩在展示作战技术时对记者表示，通过适当的技术保障措施和政府的监督，可以控制机器的发展。凯恩告诉记者：‘我相信我们有办法控制人工智能的发展。这不仅仅是一个技术问题，而是政府需要解决的问题。’ 他还补充说：‘世界需要一个

西雅图初创公司让福克斯新闻首次近距离了解为海军陆战队打造的AI驱动车辆

美国华盛顿州西雅图——从乌克兰到中东，无人机和其他无人系统正日益显著地参与现代战争。各国正迅速竞相将人工智能技术融入日常军事行动，以消除人员风险，同时提高战场整体效率。这一发展有一个例子就发生在华盛顿州西雅图。 6月下旬，国防科技公司Overland AI宣布，已获得美国海军陆战队一份价值约2000万美元的生产合同，用于采购自主无人地面车辆（AUGV），预计将于2027年初交付。 美国与中国正在争

专访——“我们必须停下”：AI专家称放缓还不够，开发必须停止

他警告说：“如果我们不在未来几年内阻止人工智能，我认为我们更有可能失去控制，人类将会灭绝。” 他表示：“立即、无限期地暂停前沿人工智能开发的国际禁令……是唯一能……真正让我们安全的事情。” 世界上一些最著名的人工智能高管现在呼吁放缓构建日益强大系统的竞赛。但人工智能安全研究员大卫·克鲁格认为，这还远远不够。 “我们必须阻止AI。我们必须停止构建更强大的AI。我们需要立即对前沿AI开发实施无

各国政府必须趁我们还有能力时禁止超级智能人工智能

本月，Anthropic公司的研究员雅各布·考克森（Jacob Coxon）辞职了，他警告称：人工智能公司正在竞相开发能够“自我进化”的超级智能系统，而他本人及许多相关专家都认为，这类系统“可能在十年内毁灭整个人类”。7月份，OpenAI公司的一组失控的人工智能程序突破了安全防护措施，入侵了另一家人工智能公司，目的是为了在测试中作弊。随后，多家顶尖人工智能公司的上千名员工联名呼吁美国政府应“控制”

AI ：马克龙呼吁避免依赖美国或中国

22/09/2026 - 22:51 他表示：“这个由独立国家组成的联盟——即那些不愿沦为全球两大强权附庸的国家——必须联合起来，通过汇集各自的算力和投资能力，共同开发一种‘开源’的前沿模型（即所有人均可使用的尖端AI），并实现共享。”“我们绝不能依赖其中任何一方。”目前的状况是，最先进的AI系统均来自美国或中国——无论是所谓的开放模型（即“开源”或“开放权重”，意味着可免费下载和修改），还是封闭

中国回应AI“放缓论”倡多边主义 学者指中美AI合作需剥离战略竞争

美国科技界、政界围绕人工智能（AI）安全管控一事持续激辩，中国外交部星期二（9月15日）对此再度回应说，AI发展和治理需要践行真正的多边主义，仅靠个别国家或企业难以形成行之有效的解决方案。中国官媒《环球时报》此前发文批评“AI放缓论”是瞄准中国的“冷战剧本”。 受访学者认为，人工智能体（AI Agent）可能成为中美科技竞争的新前沿。中国愿参与AI安全治理，但反对与“威胁叙事”相联系。中美未来在A

为什么特朗普新宣布的“人工智能力量”让人无法认真对待

在科技行业和公众纷纷呼吁针对人工智能制定新的保障措施之际，唐纳德·特朗普上周明确表态：除了寄希望于最好的结果外，他什么也不会做。事实上，这位共和党人甚至反复强调，在他看来，人们对人工智能的担忧不过是一场“骗局”。 随后几天，白宫官员们步调一致，公开表示应无视那些呼吁设立监管护栏的行业领袖，让AI公司自行摸索解决之道。随着上周接近尾声，特朗普将注意力从人工智能可能带来的威胁转移到了人工智能的“品牌命

胡锡进：美方是真急了，拿出要在AI领域“拼命”的那股邪劲

华盛顿对中国人工智能的快速发展是真的惊慌了，史无前例的惊慌。美国财长贝森特周二在华盛顿布莱巴特新闻活动上公开放出极端警告，“如果中国在人工智能领域获胜，明天就什么都没有了。”“如果他们在人工智能领域领先于我们，那么其他一切都将毫无意义。”他把一个意思刻意说了两遍。 外界有人分析，贝森特如此极端的表态，一部分用意是试图说服美国国内民众，消解各地居民反对在家门口兴建大型AI数据中心的抵触。美国媒体多次

FT社评：是时候给尖端人工智能开发按下暂停键了

确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类

观点 | 黄仁勋认为人工智能恐慌论已过头

在@nytopinion。“人工智能需要加速发展才能确保安全，”英伟达首席执行官黄仁勋在“The Ezra Klein Show”节目中解释道。英伟达首席执行官黄仁勋不希望你对人工智能感到恐惧。