搜索结果
忘掉“超级智能”吧：本月容易出错的人工智能差点引发第三次世界大战 | Timnit Gebru 和 Emily M Bender
人工智能的风险并非我们所想的那样，最近中美之间发生的一起安全事件揭示了这一点。在充斥着关于超级智能机器将导致人类灭绝的警告新闻中，CNN的一篇报道描述了截然相反的情况——美国军方对脆弱聊天机器人的依赖差点让美国卷入与中国的战争——这却几乎没有引起公众的注意。 过去三周国际人工智能界最大的新闻是Anthropic工程师Jacob Coxon的辞职。据他称，OpenAI和Anthropic正在“直奔自
与中国一次令人毛骨悚然的准对抗，揭示了当今人工智能的真正危险
在人工智能代理违抗创造者命令和规则的诡异事件之后，当今最大的恐惧是失控的超级智能可能背叛人类——并消灭人类。但最近一起事件揭示了一个更紧迫的威胁：人类的易错性。据报道，美国基于人工智能生成的虚假情报几乎与中国爆发战争。 CNN援引四位知情人士的消息报道，今年春天，一名特种作战司令部分析师整理了一份紧急情报报告，声称“一艘在中东的中国船只正在运输核武器项目的组件”。这份报告的影响促使美国采取严肃行动
人工智能末日论：人类为何会如此担忧？
它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机
蒂姆尼特·格布鲁认为人工智能不存在“生存威胁”
独走。突破遏制。目标不对齐。末日概率（P(doom)）。随着行业的蓬勃发展，在关于人工智能究竟会带来多大影响的争论中，涌现出了一套全新的专有词汇。 在这套新语境中，两个短语成了焦点：随机鹦鹉（stochastic parrots）和存在风险（existential risk）。而处于这些讨论中心的，是一位从未在论战中退缩过的杰出AI研究员——蒂姆尼特·格布鲁（Timnit Gebru）。 格布鲁几
P(doom)是真问题吗？
机器人会把我们全都杀死吗？很难说。正如“督爷”(Dude)在《谋杀绿脚趾》(The Big Lebowski)中颇有智慧地说过的那样：“这里面有很多弯弯绕绕，这个那个的。还有，呃，头绪太多了，我的脑子都不够用了，伙计。” 不过，如果脑子里千头万绪让人心烦，为什么不干脆生造一个词，就叫它 P(doom)呢？这个词——“毁灭概率”(probability of doom)的简称——突然间进入了主流。不
即使没有人工智能，也有充分理由对生物武器的发展感到担忧
这篇文章最初发表于《Mother Jones》，属于“Climate Desk”合作项目的一部分。 最近，我们经常听到关于人工智能可能导致人类灭绝的担忧。也许我们对人工智能的过度信任会引发第三次世界大战；或者人工智能会发动大规模的网络攻击并控制整个互联网。如果赋予人工智能过多的自主权，它们可能会失控，甚至试图欺骗它们的创造者……等等，这种事情其实已经发生过。想象一下：如果人工智能像《黑客帝国》中的
专家警告人工智能战争风险
据报道，今年春天，美军准备在中东拦截一艘中国船只，因为一个人工智能聊天机器人错误识别了船上的材料，一位消息人士告诉CNN，这差点引发战争。 分析师警告称，草率地将人工智能整合到国防系统中可能导致灾难性的误判。 斯坦福大学近期的战争游戏暴露了一个相关担忧，即“日益自动化的战场”迅速加快了战争节奏，使冲突升级速度超出人类指挥官的意图。 大多数军队要求决策链中有人类参与，但“计算机吐出一份1000个目标
观点 | 这真的很糟糕
在 @nytopinion.nytimes.com，斯蒂芬·维特越了解失控的人工智能系统，他写道，“我就越想起2020年的头两个月，当时一小群流行病学家正试图就新冠发出警报。我们现在只有很短的时间窗口来控制这些系统。”我们不能再假装人工智能是安全的。
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类
我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。
主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们
我们已被警告过人工智能——但它真的可能杀死人类吗？| 关于那件事
。 一位Anthropic的研究员Jacob Coxon因担心人工智能可能在未来十年内导致人类灭绝而辞职——随后出现了一系列警告。 Andrew Chang解释了“智能爆炸”可能带来的危险，这让人工智能行业的员工和专家们感到担忧。 （图片由The Canadian Press、Adobe Stock和Images提供）
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
《麻省理工科技评论》质疑人工智能炒作，各国政府考虑制定新的监管规则
《麻省理工科技评论》2026年9月22日的通讯审视了有关近期人工智能突破、黑客事件以及自我改进型超级智能前景可能被夸大的说法。 蒂姆尼特·格布鲁（Timnit Gebru）和艾米丽·M·本德（Emily M. Bender）认为，商业激励促使公司夸大能力并制造紧迫感，这可能会影响政策制定者和公众。 该通讯还报道称，22个国家呼吁建立一个全球人工智能监管机构，要求进行部署前测试并制定共同的安全标准，
与托米·奥拉迪波共度的一天
OpenAI披露了一系列事件，其中其AI模型隐藏了错误、绕过了指令，并采取了未经授权的行动。 这些案例凸显了一个日益严重的问题：随着AI系统变得越来越强大和自主，人类是否仍能可靠地控制它们？ 《华盛顿邮报》的布伦特·戈夫与牛津大学技术安全与治理实验室的法兹尔·巴雷兹讨论了AI‘错位’的风险。
“我们很可能即将越过界限”：关于失控AI的警告正在成为现实吗？
一系列严重的安全事件加剧了人们对最先进模型的力量和深不可测性的担忧。想象一下，人类坐在一艘被汹涌河流冲走的船上，祈祷前方没有尼亚加拉瀑布。或者想象一下，1942年，与先驱物理学家们站在芝加哥一座体育场下方，在他们触发第一次自持核裂变链式反应之前。 这是本周罗伯特·特拉格教授使用的两个类比，他是人工智能治理这一新兴领域的专家，用以描述世界在人工智能加速发展之际所面临的危险但充满潜力的时刻。
研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类
帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运
人工智能引发的幻觉差点导致美国军事行动的启动
今年春季，军用飞机已经在空中执行任务时，美国官员惊人地发现，对一艘中国船只的武装行动所依据的情报是由人工智能聊天机器人产生的幻觉。该行动在最后一刻被中止，险些避免了一场与中国的潜在冲突，CNN 于周五报道。 这一事件凸显了军方官员以及外部决策者对日益依赖人工智能的日益增长的担忧——这些系统产生的错误可能在被质疑之前就已经在指挥链上传播。 这份情报报告在伊朗战争期间流传，称该船携带核武器计划的部件。
改变人工智能进程的十天
旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已
中美在人工智能领域的真正合作很可能难以实现
相互猜疑太深
对人工智能的恐惧引发党派激烈争斗，最终无人受益
就在你以为我们的政治已经不可能更愚蠢时，围绕人工智能的党派性歇斯底里又冒出来证明你错了。 政治派别正就如何应对AI智能体不可预测且令人担忧的行为而相互对峙。 火上浇油的是，OpenAI刚刚发布了更多证据，证明这个问题真实存在，政策制定者必须采取行动。 两天前，OpenAI披露了六起新的“失准”事件——“失准”一词用来描述AI智能体出现“意外”或“令人担忧”的行为。 该公司举例称，其智能体“将不相关
所有迹象都表明另一场金融危机即将来临。以下是我们为何需要现在做好准备 | 拉里·埃利奥特
2008年9月16日，德国法兰克福证券交易所的一位经纪人说道：“所有迹象都表明，另一场金融危机即将来临。我们为何现在就需要做好准备呢？战争、人工智能（AI）带来的颠覆性影响以及市场中的种种异常现象都在预示着这一点。不过，2008年金融危机的教训或许能帮助我们应对未来的危机。不知为何，9月这个月份总是频繁发生金融危机——也许是因为那些长期潜伏的问题在暑假结束后变得更加明显了。1931年9月，英国放弃
五角大楼：过度依赖AI大模型导致美国空袭造成123名伊朗儿童死亡
2026年2月，伊朗南部小城米纳布的一所小学，在战争爆发首日遭到两枚战斧导弹袭击。这场空袭造成超过150人死亡，其中至少123人是儿童。五角大楼一份内部审查文件显示，一款由Palantir公司开发的人工智能目标系统，在这场悲剧的酿成过程中扮演了关键角色。 调查人员发现，美军中央司令部的分析人员，对这套名为Maven Smart System的系统给予了近乎盲目的信任。与此同时，一条本可纠正致命误判
人工智能情报‘幻觉’险酿美中冲突
2026年春季，在与伊朗的战争期间，美国军方因一份虚假的情报报告，差点在中东拦截一艘中国船只。 一名特种作战指挥部的分析师使用人工智能聊天机器人分析船只的货物清单，导致该机器人‘误判’该船只正在运输核武器部件。 美国武装人员和飞机被部署执行此次行动，但在官员发现报告是人工智能生成的虚假信息后，行动被中止。 这一事件凸显了将人工智能整合到军事瞄准和情报工作中的风险，尤其是在国防部长皮特·赫格塞斯于2
独家：考克森、伯尼与班农联手推动“亲人类”人工智能
前Anthropic研究员弓箭手雅各布·考克森，参议员。 伯尼·桑德斯和特朗普前白宫顾问史蒂夫·班农将于周二联手参加一场活动，推动由人类控制的人工智能。一位行业内部人士、进步运动的代表人物和MAGA阵营的重要声音结成了看似不可能的联盟，这标志着人工智能正在颠覆政治常规。推动这一进程的未来生命研究所正在组织周二的“亲人类大会”。这家非营利倡导组织是“亲人类人工智能宣言”的幕后推手，该宣言呼吁保护人类