搜索结果
为什么人工智能研究人员会警告人类灭绝风险
关于人工智能对人类构成的生存风险，戏剧性的警告并不新鲜。早在20世纪40年代，著名科学家兼科幻作家艾萨克·阿西莫夫就探讨了智能机器可能带来的风险和意外后果。 1991年，好莱坞大片《终结者2》设想了一个反乌托邦式的2029年，在其中，一个名为“天网”的失控军用人工智能指挥杀手机器人向人类开战。 如果人工智能界几位最知名人物的警告可信，类似情景可能成为现实——甚至早在2029年之前。要求严格监管的呼
“控制AI发展的节奏”并不能消除AI带来灾难性后果的风险。以下是一些可能有效的应对措施：
我们已经到达了人工智能的风险临界点。数百万人终于明白，专家们所知道的人工智能公司一直在用我们所有人的生命赌博，而且胜算不大。 作为回应，Anthropic首席执行官Dario Amodei提出了一项由Sam Altman和Elon Musk支持的“开拓前沿”的提议。我们能松一口气吗？我们即将从灭绝的边缘退回来吗？ 阿莫迪预计经济放缓一到两年，从而在技术安全措施方面取得“重大进展”。但这不是人类现在
对AI安全疑虑“末日”警告 也难浇熄投资热情 放缓IPO步伐
Anthropic首席执行员阿莫戴上周末呼吁应放慢先进AI的开发脚步，但未提IPO。（路透社照片） （旧金山18日法新电）尽管近期出现了诸多关于人工智能（AI）恐会“毁灭”人类的末日警告，美国人工智能（AI）独角兽Anthropic仍有望在今年晚些时候通过首次公开募股（IPO），抢在竞争对手OpenAI之前上市，其上市规模有望成为史上最大之一，但AI公司的商业模式以及监管机构是否应介入的问题依然备
为何十年来的末日警告未能减缓人工智能竞赛
研究人员辞职并宣布人类即将在上周灭绝，而在此之前，科技领袖和科学家们对超级智能人工智能终结人类的警告已经持续了十多年之久。 2014年，教授兼天体物理学家斯蒂芬·霍金警告称，人工智能的发展“可能会意味着人类的终结”——这距离公众接触到最初版本ChatGPT的生成式人工智能功能还不到十年。 这是一个如今人们已经耳熟能详的警告，美国各大前沿实验室的无数员工和首席执行官们在整个人工智能和科技行业中都在重
山姆·奥特曼揭示最让他恐惧的两种AI威胁
OpenAI 首席执行官 Sam Al特曼阐述了人工智能进步可能对人类构成巨大威胁的两大途径。 大型语言模型GPT的开发者奥特曼，以及Anthropic的达里奥·阿莫代伊、埃隆·马斯克等最有权势的人工智能公司首席执行官，都在呼吁放缓这项技术的加速发展，因为他们担心这可能会对人类造成影响。 奥特曼在X平台上发帖称：“人工智能的发展有两种可能走向糟糕的局面，我们必须避免。”一种是人类失去对人工智能的控
如今科技界最热门的两个话题是，人工智能究竟会毁灭我们，还是会赋予我们力量。
人工智能可能会杀死我，但在此之前，它会帮我以极划算的价格买到一份新保险。这就是过去几周科技界给人的普遍感觉。关于人工智能的未来，存在着两种截然不同的观点。一方是末日论者。本月早些时候，一名Anthropic研究员的辞职及其严厉的警告——称人工智能实验室是在“拿我们的生命赌博”——引发了一轮关于人工智能是否会导致人类终结的新闻报道。 Anthropic的达里奥·阿莫代伊（Dario Amodei）、
人工智能带来的最大威胁是什么，你应该担心吗？
Anthropic 和 OpenAI 的首席执行官发出了“严重”风险警告。 近期，人工智能行业中最具影响力的几位高管警告称，这项技术构成严重威胁，并发表了一系列声明，呼吁放缓人工智能的发展。 Anthropic 首席执行官 Dario Amodei 发表了一篇博文，提醒公众注意“严重”风险。竞争对手 OpenAI 的首席执行官 Sam Altman 在 X 上发文承认，人工智能可能“非常糟糕”。x
“生存风险”：Anthropic向其投资者警告自身AI的风险
Anthropic公司正在警告投资者：该公司自主研发的人工智能模型可能对人类构成“灾难性或存在性威胁”，其中包括某些模型可能拒绝被关闭、操纵信息，甚至表现出类似敲诈勒索的行为。这一警告出现在路透社获得的该公司IPO（首次公开募股）招股说明书中。该招股说明书详细列出了Anthropic的IPO相关信息及潜在风险；该公司正准备进行这场可能使其估值超过2万亿美元的IPO。 需要明确的是，我并不认为每一次
为什么市场难以给可能终结世界的AI定价
从最新一期《经济学人》中精选一篇文章朗读金融市场开始将较温和的AI威胁计入价格。但它们无力为灾难性风险提供保险。 已有账户？ 借助 Economist Podcasts+ 获得专家分析和清晰视角 巴西困境：卢拉再战博索纳罗同样在每日播客中：荣誉文化的高昂代价与无手机演出 阴谋被挫败：伊朗是否策划袭击英国基地？同样在每日播客中：石油公司的意外之财与“女儿爸爸”提高女性工资 美国撤离中东 选民如何看待
比尔·盖茨在接受路透采访时表示，面对AI即将给社会带来的深刻变革，目前全球没有哪个国家的政府做好了准备，并警告称未来存在诸多风险。
盖茨此前一直对AI持乐观态度，但近期立场有所转变，警告称AI可能冲击就业，并带来网络攻击及心理成瘾等风险。 不过盖茨补充称，如果管理得当且能够公平普及，AI有望帮助全球最贫困的人群。
观点 | 人工智能：让我们不要再让想象力失败了
在@nytopinion中，我们的专栏作家@thomaslfriedman.bsky.social写道：在人工智能引发全面危机之前，现在进行彻底的重新思考还为时不晚。 ‘我宁愿被人记住为那个在狼从未出现时大喊‘狼来了’的孩子，也不愿成为被狼吃掉的人。’现在还有机会避免人工智能可能带来的灾难。新冠疫情和9/11事件教会了我们如何做好准备。’
人工智能的末日威胁：区分事实与恐惧
关于人工智能的末日警告如今充斥着全球新闻。我们该如何将事实与猜测区分开来？ 人工智能研究人员最近的言论已将有关“超级智能”的担忧带入了主流政治辩论。但这些末日预言的可信度究竟有多高？人工智能公司是否真的正在失去对技术的控制？还是说，这些言论正在转移我们对已经发生的危害的注意力，例如虚假信息、网络犯罪、就业流失以及企业权力的集中？ 欢迎加入我们由人工智能研究人员、伦理学家和政策专家组成的多元化小组，
【华尔街日报】中国也认为 AI 可能毁灭人类，但当务之急是先赶上美国
编按：《华尔街日报》是全球最具影响力的财经媒体之一，每日产出大量深度报导，涵盖国际政治、商业财经与科技趋势。在“WSJ守护精选”栏目中，端传媒编辑每周二、四从中挑选涉及中国、科技、中美关系等华文读者最关心议题的报导。此栏目为守护会员专属。中国也担心人工智慧（AI）会带来世界末日。但眼下更紧要的是：中国得先追上美国。
AI能力强大 盖兹警告：落恶人手中恐害死10亿人
【大纪元2026年09月29日讯】（大纪元记者曾子衡综合报导）微软创办人比尔‧盖兹（Bill Gates）近日接受NBC新闻《面对媒体》（Meet the Press）专访时表示，人工智能（AI）的能力已强大到足以引发造成10亿人死亡的重大事件。若遭恶意人士利用，可能造成前所未见的破坏。他呼吁美国政府介入监管，并强调适当监管不会削弱美国在科技竞赛中的优势。 盖兹告诉主持人克莉丝汀‧韦尔克（Kris
吴恩达批评AI灭绝论：堪比科幻小说，新一波造势或意在影响监管
凤凰网科技讯月18日，据彭博社报道，AI领域的先锋吴恩达表示，顶尖模型开发商研究人员发出的有关AI生存风险的警告属于“科幻小说”，可能不利于确保这项技术为社会带来最大益处。 吴恩达曾参与创办谷歌大脑和教育平台Coursera。他说，在AI热潮的早期，科技行业曾煽动人们对AI潜在灾难性危害的恐惧，显然是为了加大宣传力度并影响监管走向。 “过去两周，我感到相当沮丧，”他在周四接受彭博电视采访时说，“这
万斯谈美国AI新动向：好奇怪，看起来像特洛伊木马
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管，以管控风险。但是美国总统特朗普认为这没有必要，美国必须保持在AI领域的领先地位。美国副总统万斯也认为，这些监管要求像是“特洛伊木马”。 据美国哥伦比亚广播公司（CBS）9月15日报道，“这确实是我们关注的问题，但我们希望确保监管措施既明智又审慎，并充分考量其中的风险。显然，AI带来了风险，也带来了诸多益处。” “坦白说，那么多
人工智能恐慌正让我们倒退回中世纪
主流媒体终于赶上了《守望台》——耶和华见证人的标志性出版物——并将聚光灯投向了世界末日。雅各布·考克森绝望地辞去了在人工智能巨头Anthropic的工作，发推文称业内人士认为，未来十年内这项技术毁灭人类的概率超过10%；在职的Anthropic高管埃文·胡宾格发推文说“雅各布说得对”；瞧，关于末日的专栏文章和社论纷纷涌现。 我没有资格判断这个10%的数字是否合理。一些人工智能科学家认为这是歇斯底里
观点 | 黄仁勋认为人工智能恐慌论已过头
在@nytopinion。“人工智能需要加速发展才能确保安全，”英伟达首席执行官黄仁勋在“The Ezra Klein Show”节目中解释道。英伟达首席执行官黄仁勋不希望你对人工智能感到恐惧。
人工智能热潮会带来什么实质成果吗？
遏制核战争并非一日之功。人工智能风险的答案也不会突然摆在桌面上。
为什么人工智能领袖呼吁放缓？
过去一周，人工智能领域发生了引人瞩目的事件。上周二，一名研究人员从Anthropic辞职，称人工智能公司“正一路冲向可自我改进的超级智能，拿我们的生命当赌注”。一名Anthropic的在职员工对此表示认同，称他认为人工智能在未来10年内导致人类灭绝的可能性超过10%。 随后在周六，Anthropic首席执行官达里奥·阿莫代伊发表文章，呼吁放缓人工智能的发展，以便安全措施能够跟上技术的步伐。他的竞争
英伟达黄仁勋称AI首席执行官警告末日有"别有用心"
别被那件黑色皮夹克骗了——詹森·黄（Jensen Huang）其实并不是一个悲观主义者。Nvidia的首席执行官在周日接受CBS News采访时明确表达了这一观点。他指责那些处于人工智能前沿的实验室的领导者们在警告人们“如果不加强对人工智能的监管，他们开发的产品可能会以多种方式危害人类”时并不真诚。黄说：“大家应该仔细琢磨他们的话；他们其实并不是真的希望出台更多法律，而是想摆脱现有的法律约束。”
人工智能的“危言耸听”可能会损害加拿大难得的机会，一位顶级首席执行官如是说
加拿大一家领先的人工智能公司首席执行官正敦促公众不要相信“危言耸听”——他提到了最近围绕一名 Anthropic 研究员的喧嚣，该研究员认为人工智能在十年内终结人类的可能性超过百分之十。 总部位于多伦多的 Cohere 公司首席执行官 Aidan Gomez 表示，在创建新的人工智能安全措施时，必须权衡降低生活成本和推进医学发现等机遇。 “我认为关于灭绝风险的说法是危言耸听。它源于科幻故事和类似情
网络安全领袖如今成了人工智能的冷静之声
网络安全领域的领导者们如今面临着一个颇为尴尬的处境：他们已不再是那些在会议上最令人畏惧的人物了。 这为何重要？那些过去经常向企业警告严重网络安全风险的高管们，如今开始反驳那些来自顶尖人工智能实验室的“末日预言”。 他们的观点是怎样的？帕洛阿尔托网络公司（Palo Alto Networks）的首席执行官尼凯什·阿罗拉（Nikesh Arora）对Axios表示：“最近关于人工智能风险的讨论实在太多
中美专家呼吁建立“核安全级”AI防护机制 防范超级人工智能失控风险
来自美国和中国的国家安全、科技政策及人工智能领域专家近日共同提出一项引人关注的建议，主张借鉴冷战时期核安全管理经验，为未来可能出现的高级人工智能系统建立类似核武器领域的安全保障机制，以降低技术失控、误判以及国际竞争升级所带来的风险。 这一建议出现在一份由两国专家共同参与讨论后形成的研究成果中。报告认为，随着人工智能能力持续快速提升，各国已经开始面对一些与核时代早期相似的问题，即一种具有巨大潜在影响