搜索结果
人工智能（AI）会对我们的生存构成严重威胁吗？
一名抗议者在美国加利福尼亚州旧金山的OpenAI总部外，呼吁暂停人工智能发展。 Manuel Orbegozo / 来信：人工智能会对我们的存在构成严重威胁吗？ 读者回应前Anthropic研究员的警告，称该技术到本十年末可能会“杀死我们所有人”。我们又一次看到一批技术宅声称人工智能将发展出超级智能并杀死我们所有人（更多Anthropic研究员警告AI的危险，但马斯克否认是“心理战”，9月10日）
“他需要更有同理心”：共和党金主称特朗普最新AI言论未切中要害
“他本应更具同理心” 共和党捐赠者称特朗普在最新人工智能言论中失准 共和党捐赠者认为，特朗普对公众关于人工智能的担忧轻描淡写，这是一个问题。但他们认为，可负担性问题更为严重。 唐纳德·特朗普总统本周淡化了对人工智能的担忧。共和党捐赠者希望他没有这样做。 一些捐赠者（均获准匿名，以便在不担心报复的情况下坦率发言）告诉《政治报》（POLITICO），特朗普对人工智能那种“学着去爱它”的强硬言论，是这位
如何治理人工智能的生存风险
当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。 这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要
所有迹象都表明另一场金融危机即将来临。以下是我们为何需要现在做好准备 | 拉里·埃利奥特
2008年9月16日，德国法兰克福证券交易所的一位经纪人说道：“所有迹象都表明，另一场金融危机即将来临。我们为何现在就需要做好准备呢？战争、人工智能（AI）带来的颠覆性影响以及市场中的种种异常现象都在预示着这一点。不过，2008年金融危机的教训或许能帮助我们应对未来的危机。不知为何，9月这个月份总是频繁发生金融危机——也许是因为那些长期潜伏的问题在暑假结束后变得更加明显了。1931年9月，英国放弃
别只问AI会不会毁灭人类
“十年之内，AI毁灭全人类的概率超过10%。”这个数字一出，舆论哗然。有人追问它是否科学，有人指责它制造恐慌，也有人据此主张放慢甚至停止AI研发。 其中，一些最了解AI的建造者，一边真诚地承认这项技术可能杀死所有人，一边却没有停下手里的开发。他们并非在说谎，也不是虚伪——现实中有种种力量，使他们无法停下来。 观潮无意纠缠“10%的概率究竟大还是小”。比数字更值得追问的，是人们讨论它时所站的位置。
解读——人类滥用还是失控机器？先进人工智能如何威胁社会
随着人工智能系统变得越来越强大，关于它们可能伤害人类的方式的警告范围从今天已经出现的危险到对未来生存灾难的担忧。 上周，Anthropic员工雅各布·考克森（Jacob Coxon）公开从这家领先的人工智能公司辞职，警告开发人员正在构建可能最终摧毁人类的系统。 科克森在美国社交媒体平台X上发帖称：“人工智能的开发者真诚地相信，到本世纪末，它可能会杀死我们所有人。”“他们正在直奔自我完善的超级智能，
“太棒了”还是“令人担忧”——AI 应该被约束吗？
人工智能的迅猛发展以及对该技术给人类带来风险的担忧，因人工智能企业高管和员工的一系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在上周末呼吁放慢人工智能的发展步伐并对其进行更密切的监督。 BBC采访了华盛顿特区的民众，以了解他们对这项技术及其快速发展的担忧程度。
Anthropic前研究员辞职示警：业界坚信AI可在2030年前灭绝人类
人工智能（AI）巨头Anthropic公司旗下的三位研究人员警告，开发AI的业界人士真心相信人工智能可以2030年前毁灭人类，其中一位研究人员考克森（Jacob Coxon）已辞职以示抗议。考克森9月9日（周三）在网上发文表示，他辞职是因为Anthropic和他的前雇主OpenAI皆忽视或对AI带来的威胁处理不当。 据《卫报》报道，「这两家公司（Open AI与Anthropic）都没有尽到应有的
萨姆·奥尔特曼表示，应对人工智能恐惧需要“务实主义”
萨姆·奥尔特曼表示，应对人工智能恐惧需要“务实主义”关闭 更多关于萨姆·奥尔特曼对人工智能未来的言论。 板块新闻发布于23小时前分享关闭面板分享页面复制链接关于分享相关话题人工智能关注人工智能关闭面板您现在正在关注人工智能来自您的新闻主题的更新将出现在“我的新闻”中以及新闻主页的集合中。阅读描述
克鲁尼在威尼斯电影节上表示人工智能威胁电影和新闻业
美国演员乔治·克鲁尼周三警告称，人工智能的进步使得区分真相与虚构变得越来越困难，这对记者、政府和公众构成了挑战。
人工智能带来的最大威胁是什么，你应该担心吗？
Anthropic 和 OpenAI 的首席执行官发出了“严重”风险警告。 近期，人工智能行业中最具影响力的几位高管警告称，这项技术构成严重威胁，并发表了一系列声明，呼吁放缓人工智能的发展。 Anthropic 首席执行官 Dario Amodei 发表了一篇博文，提醒公众注意“严重”风险。竞争对手 OpenAI 的首席执行官 Sam Altman 在 X 上发文承认，人工智能可能“非常糟糕”。x
人工智能恐慌需要一些核隐喻
关于全球人工智能恐慌的许多讨论——它真的会“在本世纪末之前杀死我们所有人吗”？——确实是全新的，因此也格外令人恐惧。然而，人类制造的灭绝阴影并非什么新鲜事；我们在思考这一问题上已经有大约八十年的经验了。 那么，当我们试图理解人工智能的前景时，可以从核武器领域借鉴哪些隐喻和教训呢？ 最古老的隐喻之一来自有时被称为“原子弹之父”的J·罗伯特·奥本海默。1953年，当华盛顿和莫斯科已经有能力在摧毁对方的
存在主义恐惧如何影响关于人工智能的争论
一些专家担心，激烈的言论使公司难以承担责任，并阻碍了应对环境影响和失业的尝试。当前一轮对人工智能的恐慌是基于这样一种信念：该技术已经脱离了人类的控制，在最近的几起事件中按照自己的意愿行事。对于一些幻灭的人工智能研究人员以及领先人工智能公司的一些高级员工来说，这是人类文明面临真正威胁的早期迹象。 但该领域的其他专家正在反驳，声称此类言论允许公司回避对其技术对现实世界影响的责任。批评者认为人工智能对环
“生存风险”：Anthropic向其投资者警告自身AI的风险
Anthropic公司正在警告投资者：该公司自主研发的人工智能模型可能对人类构成“灾难性或存在性威胁”，其中包括某些模型可能拒绝被关闭、操纵信息，甚至表现出类似敲诈勒索的行为。这一警告出现在路透社获得的该公司IPO（首次公开募股）招股说明书中。该招股说明书详细列出了Anthropic的IPO相关信息及潜在风险；该公司正准备进行这场可能使其估值超过2万亿美元的IPO。 需要明确的是，我并不认为每一次
联合国人权事务高级专员警告：人工智能可能对人类构成“生存威胁"
联合国人权事务高级专员沃尔克·图尔克（Volker Türk）周一（9月7日）警告称，人工智能可能变得足够强大，足以威胁人类，并表示他将在未来几天敦促各公司降低风险。 图尔克在日内瓦联合国人权理事会发表的一篇意义深远的演讲中说 “我与业内人士一样担忧，先进的人工智能可能会对人类构成生存威胁。” 即将于下个月开始第二个任期的图尔克呼吁“必须全力以赴，在为时已晚之前，为人工智能的安全保障建立铁一般的保
研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类
帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运
川普顾问质疑AI恐慌遭操弄 国会追查外国影响
人工智能（AI）安全争论近期在美国持续升温。周三（9月16日），川普总统的科技顾问大卫‧萨克斯（David Sacks）质疑，新一波AI恐慌可能受到倡议活动及媒体报导所推动，并反对因此新增监管。川普此前警告，若美国因安全疑虑而放慢AI发展，中共政权可能受益。与此同时，OpenAI、X近期相继披露，疑似中国相关网络试图介入美国AI与数据中心政策辩论，美国国会也已对此展开调查。萨克斯称「散播恐慌」 川
评论：人工智能恐慌需要一些核隐喻
关于全球 AI 恐慌的许多方面——它真的可能“在本十年末毁灭我们所有人”吗？——确实是全新的，因此格外令人恐惧。然而，人类自造灭绝的幽灵并非新鲜事物；我们已有约八十年的思考经验。 那么，在我们试图理解人工智能未来走向时，能从核武器领域汲取哪些隐喻和教训？ 最古老的隐喻之一来自 J·罗伯特·奥本海默，他有时被称为“原子弹之父”。1953 年，当华盛顿和莫斯科已具备相互毁灭并辐射全球的能力时，他将美国
分析：中国为什么不怕人工智能末日论？
本文刊发在大西洋月刊，作者Liza Lin是一位专注于科技和美中关系的自由撰稿人。 在中国，人工智能已经无处不在。 在杭州，身穿荧光黄色背心的人形警务机器人在热门旅游景点巡逻，遇到乱穿马路的行人时，还会语气温和地提醒他们。中国人工智能聊天机器人豆包已经成为极受欢迎的医疗咨询来源，以至于一些人开始把它叫作“豆包医生”。 这个威权国家正在调动国家资源，力争打造世界领先的人工智能产业，并推动人工智能在制
埃隆·马斯克称他对人工智能安全的担忧可以追溯到十多年前
亚辛·贡戈尔 9月14日 9月14日 2026年 亿万富翁企业家埃隆·马斯克周一加入关于人工智能的辩论，称他对这项技术潜在风险的担忧可以追溯到十多年前。 “早在2014年之前，我就在思考人工智能安全问题，”他在美国社交媒体平台X上说。该平台隶属于他的人工智能企业SpaceXAI。 马斯克提到他与哲学家尼克·博斯特罗姆2014年著作《超级智能：路径、危险、策略》的关联，称他为该书做出了贡献，并在前言
改变人工智能进程的十天
旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已
你想要人类的帮助还是AI机器人的帮助？因为英国公务员系统正在改变——而且不是向好的方向
2026年9月16日，伦敦白厅的抗议者要求政府暂停使用人工智能技术。照片来源：Dan Kitwood/Getty Images你是希望得到人类的帮助，还是人工智能机器的帮助？因为英国的公务员体系正在发生变化——而且这种变化并不乐观。政府内部对人工智能技术的使用日益广泛，这使得各个部门逐渐忽视了这些技术所带来的严重威胁。试想一下：你还能与那些“面目模糊”的数字化官僚们争论些什么呢？ 继那些对人工智能
这些末日论者对AI发展产生了巨大影响
一个由末日论者组成的紧密小圈子一直在默默地影响着人工智能（AI）行业的发展。 最近，Anthropic公司的一名研究人员辞职，这一事件让公众意识到失控的AI发展可能会终结人类。 然而，一些被称为‘末日论者’的AI安全领域专家多年来一直关注这一灾难性风险。 他们曾是OpenAI和Anthropic等大型实验室的早期员工。 如今，在Anthropic准备进行大规模公开募股、试图向投资者传递积极信号的同
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类