联合国人权事务主管警告：人工智能可能对人类构成‘生存性’风险

吴恩达批评AI灭绝论：堪比科幻小说，新一波造势或意在影响监管

凤凰网科技讯月18日，据彭博社报道，AI领域的先锋吴恩达表示，顶尖模型开发商研究人员发出的有关AI生存风险的警告属于“科幻小说”，可能不利于确保这项技术为社会带来最大益处。 吴恩达曾参与创办谷歌大脑和教育平台Coursera。他说，在AI热潮的早期，科技行业曾煽动人们对AI潜在灾难性危害的恐惧，显然是为了加大宣传力度并影响监管走向。 “过去两周，我感到相当沮丧，”他在周四接受彭博电视采访时说，“这

比尔·盖茨罕见警告动荡时代到来，危险的味道在蔓延

"这是我第一次面对一种新技术，希望它发展得慢一点。"知道这句话是谁说的吗？竟然是来自比尔·盖茨最近在个人网站上发表的一篇长文，标题是《动荡的AI时代已经到来。我们现在所做的选择至关重要》。这个曾二十多岁就喊出"让每个家庭桌上都有一台电脑"的人，这个推着软件产业往前冲了半辈子的技术乐观派，显然是看到了让他害怕的东西。比尔·盖茨到底看到了什么？他在长文中列出了“就业冲击”、“安全威胁”与“认知退化”三

查理斯三世警告AI领袖 吁防「生存危险」免太迟

英王查理斯三世（King Charles III）9月17日在苏格兰邓弗里斯庄园（Dumfries House）会见人工智能企业领袖，警告AI若落入坏人手中将构成「生存危险」，后果可能是灾难性的，呼吁在「为时已晚」前建立足够管控。路透社报道，与会者包括英伟达（Nvidia）创办人兼行政总裁黄仁勋（Jensen Huang）、Google DeepMind创办人兼主席哈萨比斯（Demis Hassa

人工智能（AI）会对我们的生存构成严重威胁吗？

一名抗议者在美国加利福尼亚州旧金山的OpenAI总部外，呼吁暂停人工智能发展。 Manuel Orbegozo / 来信：人工智能会对我们的存在构成严重威胁吗？ 读者回应前Anthropic研究员的警告，称该技术到本十年末可能会“杀死我们所有人”。我们又一次看到一批技术宅声称人工智能将发展出超级智能并杀死我们所有人（更多Anthropic研究员警告AI的危险，但马斯克否认是“心理战”，9月10日）

马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉

美国众议长约翰逊对设置AI护栏持开放态度 恐惹特朗普不满

美国众议院议长迈克·约翰逊对监管人工智能（AI）持开放态度，与总统唐纳德·特朗普明确反对AI监管的立场形成冲突。在中期选举日益临近、共和党本已面临强阻力之际，这一立场冲突在党内造成了分歧。面对AI行业内部要求放慢技术开发的严厉警告，约翰逊周一表示，国会“可能”需要为该行业设置护栏，不过他同时警告，要制定一项能够获得足够广泛支持并获通过的法案可能需要“一些时间”。 美国众议院议长迈克·约翰逊约翰逊周

为什么人工智能研究人员会警告人类灭绝风险

关于人工智能对人类构成的生存风险，戏剧性的警告并不新鲜。早在20世纪40年代，著名科学家兼科幻作家艾萨克·阿西莫夫就探讨了智能机器可能带来的风险和意外后果。 1991年，好莱坞大片《终结者2》设想了一个反乌托邦式的2029年，在其中，一个名为“天网”的失控军用人工智能指挥杀手机器人向人类开战。 如果人工智能界几位最知名人物的警告可信，类似情景可能成为现实——甚至早在2029年之前。要求严格监管的呼

黄仁勋炮轰AI大佬“危言耸听”：他们可能另有目的

凤凰网科技讯 9月21日，据 Business Insider 报道，英伟达CEO黄仁勋在周日播出的CBS采访中指责前沿AI实验室负责人的警告“不诚实”。这些警告声称，如果没有更多AI监管，他们正在构建的产品可能以多种形式危害人类。黄仁勋认为，这些警告背后另有动机。 “去读读字里行间。他们实际上并不是在要求更多法律，而是在要求免除我们现有的法律。“他们这样做一定是出于不可告人的原因。”黄仁勋表示，

AI行业领袖与官员反驳AI生存风险论，此前Hugging Face遭遇安全漏洞

Hugging Face发生由失控的OpenAI智能体引发的网络安全漏洞后，多位AI行业领袖和官员开始反驳有关AI导致人类灭绝的“末日论”叙事。 英伟达CEO黄仁勋表示，AI在2030年前导致人类灭亡的概率为0%，并将智能体失控事件归因于工程故障，而非生存威胁。 Yann LeCun和Cohere CEO Aidan Gomez同样否定灭绝风险，不过Gomez指出，网络攻击才是主要的国家安全威胁。