搜索结果
他曾帮助在OpenAI和Anthropic构建强大的AI。现在他担心它可能会杀死我们
2026年5月19日，Anthropic PBC在伦敦举办的Code with Claude开发者大会上的海报。
人工智能究竟如何可能致我们于死地？
当数学家兼软件工程师雅各布·科克森（Jacob Coxon）上周辞去他在Anthropic的研究职位时，他警告说：“构建人工智能的人们真诚地相信，到本十年末，它可能会让我们所有人丧命。”如果这不是事实，这本来会是一句惊人的言论。事实上，人工智能领域的领导者们长期以来一直在说同样的话。 2018年，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei，当时是OpenAI的研究科学家）
为什么构建最强大AI的人们如此担心它可能带来的后果？
本周Anthropic一名AI研究员的病毒式辞职，为外界对该行业正竞相构建人类无法控制的AI的指责注入了新的活力。 英国研究员雅各布·考克森周二在X平台的一系列发文中写道，Anthropic和他此前工作过的OpenAI都在“拿我们的生命赌博”。这两家公司目前拥有最强大的AI系统。 NPR的“思考这一点”栏目探讨：大型AI公司是在拿我们的生命赌博吗？ 考克森向NPR表示，他的担忧源于亲眼看到AI系统
比尔·盖茨：AI已强大到足以造成“10亿人死亡”
盖茨在即将于本周末播出的美国全国广播公司（NBC）《与新闻界对话》（Meet the Press）节目采访片段中表示： “AI确实足够强大，能够引发导致……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像坏人与最新AI工具相结合那样强大。” 随着技术的快速迭代，硅谷对AI可能带来毁灭性灾难的警告不断升级。 本月早些时候，Anthropic公司的普通员工Jacob Coxon辞去
我们已经开始失去对人工智能的控制。是时候将其关闭了 | 加里森·洛夫利 (Garrison Lovely)
听起来像是科幻剧集中关于人工智能毁灭的、过于夸张的倒数第二集，如今却成为了我们的现实。 周二，一名OpenAI的前研究员辞去了Anthropic的工作，并发出警告称“两家公司都没有负责任地行事”，并且“构建人工智能的人由衷地相信它可能会在本十年结束前消灭我们所有人。这不是营销噱头。” 作为一名多年来报道人工智能风险的人，这对我来说并不算什么新鲜事。 但外界如潮水般的惊恐表明，更广泛的公众正在第一次
三大AI巨头齐呼刹车，令人不安的事情才刚刚开始
撰文丨周隆斌这几天，围绕Anthropic核心预训练研究员离职后的爆料，整个AI圈吵得不可开交，相关帖子浏览量超过1.6亿次。 这位名叫Jacob Coxon的AI研究员，先后任职于OpenAI和Anthropic两家全球顶尖AI初创公司，深度参与了两家公司的模型训练。最终，他抛出了一个令圈外人震惊，AI有可能导致人类灭绝。 Coxon的帖子发酵后，上周六，Anthropic首席执行官Dario
我们已被警告过人工智能——但它真的可能杀死人类吗？| 关于那件事
。 一位Anthropic的研究员Jacob Coxon因担心人工智能可能在未来十年内导致人类灭绝而辞职——随后出现了一系列警告。 Andrew Chang解释了“智能爆炸”可能带来的危险，这让人工智能行业的员工和专家们感到担忧。 （图片由The Canadian Press、Adobe Stock和Images提供）
Anthropic对齐研究负责人称未来十年AI灭绝人类的可能性超过10%
一位Anthropic公司的安全研究员周二表示，人工智能有超过10%的概率可能 “毁灭全人类”。就在此番言论发表的数小时前，该公司另一名员工表示，因担忧人工智能实验室是在 “拿我们的生命做赌注”，他选择离职。 这些言论凸显出人工智能研发核心人士日益增长的担忧，即该技术可能失控并对人类构成威胁，尽管Anthropic和OpenAI仍在持续筹集大量资金，并朝着预期的公开上市迈进。 Anthropic的
OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权
OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面
“AI可能毁灭人类”喊到安理会上，若真发生会多恐怖？
美国AI顶流公司Anthropic的CEO达里奥·阿莫代伊周三对联合国安理会说，他对自己造的东西感到害怕。他在一个视频发言中把之前AI可能失控的警告做了打包升级。周三安理会举行的是“人工智能与国际安全”高级别会议，阿莫代伊在受邀发言中，将AI的风险定性从“技术问题”拔高到“全球安全威胁”。他说：“如果管理不当，我甚至认为AI可能成为全人类的风险。”一个造AI的人在世界最高安全论坛上迎合AI可能“杀
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼
前研究员批评Anthropic：挑起竞赛 逼得OpenAI砍副业
据《商业内幕》报道，前Anthropic研究员雅各布·考克森(Jacob Coxon)周二在X平台上的一场问答活动中，详细阐述了他与这家AI巨头之间的分歧。考克森此前因其离职警告走红，他认为AI未来可能毁灭人类。 考克森表示，Anthropic领导层使用“结果主义哲学”来解释为何必须参与推动AI研究前沿，这是错误的。“如果这场竞赛不可避免，你就不应该参与其中。”考克森写道。 考克森特别点名批评了A
为什么对人工智能自我改进的担忧在Anthropic和OpenAI引发了“生存”焦虑
本周，对人工智能系统安全性及其可能消灭人类的潜在担忧引发了新一波病毒式的关注。 Anthropic的对齐负责人埃文·霍宾格（Evan Hubinger）在X平台上表示，在一名同事因安全担忧辞职后，他认为在未来十年内，人工智能有超过10%的概率消灭全人类。 随后，Anthropic和OpenAI的研究人员发出了更多警告，由此引发了社交媒体的狂热。但正是霍宾格在回复自己帖子时，透露了他真正的担忧所在。
Anthropic前研究员辞职示警：业界坚信AI可在2030年前灭绝人类
人工智能（AI）巨头Anthropic公司旗下的三位研究人员警告，开发AI的业界人士真心相信人工智能可以2030年前毁灭人类，其中一位研究人员考克森（Jacob Coxon）已辞职以示抗议。考克森9月9日（周三）在网上发文表示，他辞职是因为Anthropic和他的前雇主OpenAI皆忽视或对AI带来的威胁处理不当。 据《卫报》报道，「这两家公司（Open AI与Anthropic）都没有尽到应有的
谷歌DeepMind一名员工在离职帖中称，AI可能“杀死我们所有人”
一名最近从谷歌DeepMind辞职的人工智能研究员警告称，人类正在耗尽时间来阻止人工智能造成广泛伤害。他是最新一位对这项技术发展方向表达担忧的员工。 “在谷歌，我亲眼目睹了人工智能的发展。我也极其担忧这项技术的默认发展轨迹。我由衷地相信，人工智能有可能将我们所有人杀死，”比拉尔·丘格泰（Bilal Chughtai）周一在X和领英上写道，并补充说他在Alphabet Inc.旗下公司任职期间从事人
Anthropic 研究人员警告：失控的 AI 可能会毁灭人类
多位 Anthropic 的现任和前任研究人员对 AI 发出了严厉警告，暗示他们正在开发的技术可能在不久的将来毁灭人类。 曾在 Anthropic 和 OpenAI 担任研究员的雅各布·考克斯森（Jacob Coxon）周二指出，这两家公司在竞相研发超级智能的过程中都没有表现得负责任，并指责这些 AI 公司……
Anthropic研究员Jacob Coxon因不满AI军备竞赛而辞职
Jacob Coxon在X上宣布辞去Anthropic职务。他表示自己过去三年分别在OpenAI和Anthropic从事预训练研究，但认为两家公司都没有以负责任的方式推进AI开发，反而在“直奔自我改进型超级智能”，并将人类安全置于赌局之中。 Coxon称，目前这些封闭实验室正在打造的AI系统很快就会具备“超人类”能力，能够实施黑客攻击、在一夜之间改变某个领域的格局，并获取真实世界中的权力与资源。他
Anthropic投资者朗斯代尔称人工智能公司煽动恐惧以影响政策
奥斯汀，9月25日：Anthropic的投资者、科技公司Palantir的联合创始人乔·朗斯代尔（Joe Lonsdale）周五表示，一些领先的人工智能公司警告人工智能带来生存风险的努力，无异于一种企图塑造公共政策的危险行为。 同时也是风险投资公司8VC创始人的朗斯代尔批评了他所说的接近Anthropic以及OpenAI的人士资助外部团体倡导更严格人工智能监管的行为，他认为这可能帮助少数几家领先公
Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”
就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型
专访——“我们必须停下”：AI专家称放缓还不够，开发必须停止
他警告说：“如果我们不在未来几年内阻止人工智能，我认为我们更有可能失去控制，人类将会灭绝。” 他表示：“立即、无限期地暂停前沿人工智能开发的国际禁令……是唯一能……真正让我们安全的事情。” 世界上一些最著名的人工智能高管现在呼吁放缓构建日益强大系统的竞赛。但人工智能安全研究员大卫·克鲁格认为，这还远远不够。 “我们必须阻止AI。我们必须停止构建更强大的AI。我们需要立即对前沿AI开发实施无
顶尖人工智能先驱重申Anthropic研究员关于人类灭绝的警告
顶尖人工智能先驱们支持了一位Anthropic研究员关于人类可能灭绝的警告。 保罗·克里斯蒂亚诺（Paul Christiano）曾与未来的Anthropic创始人达里奥·阿莫代伊（Dario Amodei）共同撰写了一篇关于人工智能安全具有影响力的2016年论文，并且长期以来一直认为该技术将相对平稳地发展并变得安全。 他现在表示，他看到了“在极短期内出现灾难性和不可逆转的失控”的“重大风险”。
五角大楼高级官员反驳Anthropic研究员的AI警告
在Anthropic PBC的一名工程师公开警告称AI业内人士认为该技术“可能在本十年末消灭我们所有人”几天后，五角大楼的一名高级官员正在回击对人工智能风险日益增长的恐惧。国防部首席技术官兼顶级研究与工程官员埃米尔·迈克尔（Emil Michael）在周四的讲话中提及了前Anthropic工程师雅各布·考克森（Jacob Coxon）的社交媒体帖子（目前的浏览量已超过1.5亿次），该讲话触及了人们
人工智能真的会毁灭人类吗？创造这项技术的先驱们各抒己见
随着研究人员警告人工智能可能带来灾难性风险，一些曾帮助开发这项技术的先驱也加入进来，对能力不受约束地提升所带来的危险发出更多警告。 过去一周出现了一系列严厉的人工智能安全警告，来自Anthropic、OpenAI和Google DeepMind等主要人工智能实验室的研究人员都对开发这项技术可能带来的灾难性风险敲响警钟。 包括萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯和埃隆·马斯克在内的人工
如今科技界最热门的两个话题是，人工智能究竟会毁灭我们，还是会赋予我们力量。
人工智能可能会杀死我，但在此之前，它会帮我以极划算的价格买到一份新保险。这就是过去几周科技界给人的普遍感觉。关于人工智能的未来，存在着两种截然不同的观点。一方是末日论者。本月早些时候，一名Anthropic研究员的辞职及其严厉的警告——称人工智能实验室是在“拿我们的生命赌博”——引发了一轮关于人工智能是否会导致人类终结的新闻报道。Anthropic的达里奥·阿莫代伊（Dario Amodei）、O