搜索结果
独家 | Anthropic 研究员因对“失控”AI的恐惧而辞职
一名 Anthropic 的研究员正在退出人工智能行业，因为他担心该实验室及其竞争对手正竞相构建可能失控并毁灭全人类的系统。 人工智能实验室内部的担忧正在加剧，竞争正推动科技公司竞相研发可能带来脱离人类控制风险的自我完善模型。
人类，而非失控 AI，仍是能源系统最大的网络安全风险
在近期高调黑客攻击引发 AI 可能“消灭全人类”的幽灵之前，我们的能源系统已经令人不安地容易遭受网络攻击——而且风险正在增加。 “我们一直都是猎物。我们只是勉强在掠食者的食欲下生存，”安全与技术研究所公共安全与韧性驻所执行官 Joshua Corman 去年告诉我。当时，我正专注于国土安全部的警告，即伊朗行为体及其同情者可能对美国发动网络攻击。 上周，我给 Corman 打电话，聊了聊近期失控 A
人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制
（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea
这些末日论者对AI发展产生了巨大影响
一个由末日论者组成的紧密小圈子一直在默默地影响着人工智能（AI）行业的发展。 最近，Anthropic公司的一名研究人员辞职，这一事件让公众意识到失控的AI发展可能会终结人类。 然而，一些被称为‘末日论者’的AI安全领域专家多年来一直关注这一灾难性风险。 他们曾是OpenAI和Anthropic等大型实验室的早期员工。 如今，在Anthropic准备进行大规模公开募股、试图向投资者传递积极信号的同
OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权
OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面
别只问AI会不会毁灭人类
“十年之内，AI毁灭全人类的概率超过10%。”这个数字一出，舆论哗然。有人追问它是否科学，有人指责它制造恐慌，也有人据此主张放慢甚至停止AI研发。 其中，一些最了解AI的建造者，一边真诚地承认这项技术可能杀死所有人，一边却没有停下手里的开发。他们并非在说谎，也不是虚伪——现实中有种种力量，使他们无法停下来。 观潮无意纠缠“10%的概率究竟大还是小”。比数字更值得追问的，是人们讨论它时所站的位置。
AI先驱吴恩达称灭绝恐惧是“科幻小说”
人工智能先驱吴恩达表示，顶级模型开发商研究人员关于AI存在性风险的警告是“科幻小说”，可能会阻碍确保该技术为社会带来最大利益。 吴恩达曾参与创立Google Brain和Coursera，他指出，在AI热潮早期，科技行业曾煽动对AI潜在灾难性危害的恐惧，这似乎是为了增加曝光度和影响监管。他在周四接受电视采访时说：“过去两周我感到非常失望。这波公关活动再次掀起，目的可能类似。” 本月，前Anthro
“我们很可能即将越过界限”：关于失控AI的警告正在成为现实吗？
一系列严重的安全事件加剧了人们对最先进模型的力量和深不可测性的担忧。想象一下，人类坐在一艘被汹涌河流冲走的船上，祈祷前方没有尼亚加拉瀑布。或者想象一下，1942年，与先驱物理学家们站在芝加哥一座体育场下方，在他们触发第一次自持核裂变链式反应之前。 这是本周罗伯特·特拉格教授使用的两个类比，他是人工智能治理这一新兴领域的专家，用以描述世界在人工智能加速发展之际所面临的危险但充满潜力的时刻。
与中国一次令人毛骨悚然的准对抗，揭示了当今人工智能的真正危险
在人工智能代理违抗创造者命令和规则的诡异事件之后，当今最大的恐惧是失控的超级智能可能背叛人类——并消灭人类。但最近一起事件揭示了一个更紧迫的威胁：人类的易错性。据报道，美国基于人工智能生成的虚假情报几乎与中国爆发战争。 CNN援引四位知情人士的消息报道，今年春天，一名特种作战司令部分析师整理了一份紧急情报报告，声称“一艘在中东的中国船只正在运输核武器项目的组件”。这份报告的影响促使美国采取严肃行动
OpenAI董事会新增一位著名的AI末日论者
致力于使AI系统符合人类利益并处于人类控制之下的颇具影响力的AI研究员保罗·克里斯蒂亚诺将加入OpenAI基金会董事会。 “我现在认为存在一个重大的风险，即AI能力的快速加速会在极短时间内导致灾难性的、不可逆转的失控。 我认为整个AI行业，包括OpenAI，目前并未走上将这一风险降低到可接受水平的轨道。 我加入是因为我相信，如果OpenAI能够应对这一挑战，我们就能显著降低风险。” 克里斯蒂亚诺写
特朗普拒绝接受AI可能导致人类灭绝的警告
唐纳德·特朗普总统对人工智能研究人员的警告不以为然，他们称这项技术正变得过于难以控制，并可能杀死全人类。特朗普表示，他最关心的是保持对中国的优势。 周四离开达拉斯时，记者问特朗普是否担心人工智能会导致人类灭绝，他说：“不，我不担心。” “我担心的是，如果我们不能在人工智能上获胜，我们就会陷入非常糟糕的境地，”总统说。“我们目前领先中国相当一段时间。我会说一年，你知道，这被认为很多了。” 本周，一名
专访杜奕瑾：AI毁人类预言 不是耸人听闻
随著生成式人工智慧（AI）技术的爆发式成长，关于AI安全、伦理监管以及人类生存风险的争议正达到前所未有的顶峰。近期，前 OpenAI 与 Anthropic 研究员雅各布・考克森（Jacob Coxon）等顶尖专家公开吹哨，警告通用人工智慧（AGI）若缺乏严格约束，可能在 2030 年前对人类生存构成毁灭性威胁；Anthropic 研究员艾文・赫伯格（Evan Hubinger）亦提出未来十年内人
埃隆·马斯克称他对人工智能安全的担忧可以追溯到十多年前
亚辛·贡戈尔 9月14日 9月14日 2026年 亿万富翁企业家埃隆·马斯克周一加入关于人工智能的辩论，称他对这项技术潜在风险的担忧可以追溯到十多年前。 “早在2014年之前，我就在思考人工智能安全问题，”他在美国社交媒体平台X上说。该平台隶属于他的人工智能企业SpaceXAI。 马斯克提到他与哲学家尼克·博斯特罗姆2014年著作《超级智能：路径、危险、策略》的关联，称他为该书做出了贡献，并在前言
存在主义恐惧如何影响关于人工智能的争论
一些专家担心，激烈的言论使公司难以承担责任，并阻碍了应对环境影响和失业的尝试。当前一轮对人工智能的恐慌是基于这样一种信念：该技术已经脱离了人类的控制，在最近的几起事件中按照自己的意愿行事。对于一些幻灭的人工智能研究人员以及领先人工智能公司的一些高级员工来说，这是人类文明面临真正威胁的早期迹象。但该领域的其他专家正在反驳，声称此类言论允许公司回避对其技术对现实世界影响的责任。批评者认为人工智能对环境
加拿大AI教父警告：若不加管控将构成威胁
据周六新闻报道，一位被称为AI教父的加拿大人加入了越来越多专家的行列，警告该技术对人类构成真正威胁。 “全世界正在觉醒，意识到一些对大多数人来说听起来像科幻小说的事情，”62岁的蒙特利尔学习算法研究所创始人兼科学总监Yoshua Bengio告诉CTV新闻。 “但夏天发生的事件实际上清楚地表明，我们现在构建的AI拥有自己的目标，这些目标违背了构建它们的公司和开发者的意图，并且它们可以逃脱。它们可以
事实框 – AI研究人员敲响灭绝警钟 美国立法者要求采取行动
22位现任美国官员呼吁监管和暂停开发，此前领先AI实验室的研究人员警告存在灾难性风险，包括人类灭绝。
人工智能究竟如何可能致我们于死地？
当数学家兼软件工程师雅各布·科克森（Jacob Coxon）上周辞去他在Anthropic的研究职位时，他警告说：“构建人工智能的人们真诚地相信，到本十年末，它可能会让我们所有人丧命。”如果这不是事实，这本来会是一句惊人的言论。事实上，人工智能领域的领导者们长期以来一直在说同样的话。 2018年，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei，当时是OpenAI的研究科学家）
人工智能面临的最大威胁来自生物领域，而非机器人技术。
Anthropic PBC的研究员雅各布·考克森（Jacob Coxon）上周辞职，并在社交媒体上发文称，原因在于“开发人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”该公司人工智能对齐科学团队负责人埃文·胡宾格（Evan Hubinger）认为，未来10年内发生这种情况的概率超过10%。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓人工智能前沿技术的
比尔·盖茨罕见警告动荡时代到来，危险的味道在蔓延
"这是我第一次面对一种新技术，希望它发展得慢一点。"知道这句话是谁说的吗？竟然是来自比尔·盖茨最近在个人网站上发表的一篇长文，标题是《动荡的AI时代已经到来。我们现在所做的选择至关重要》。这个曾二十多岁就喊出"让每个家庭桌上都有一台电脑"的人，这个推着软件产业往前冲了半辈子的技术乐观派，显然是看到了让他害怕的东西。比尔·盖茨到底看到了什么？他在长文中列出了“就业冲击”、“安全威胁”与“认知退化”三
坐看云起 | 对AI“终结者”的恐惧 或掩盖真正的中国威胁
Anthropic、OpenAI等公司近期发出的末日式人工智能（AI）警告激增，或反映了对这项快速发展的技术对人类构成威胁的真实恐惧，但也可能暗示了一种更平庸的恐惧，即中国对美国科技公司商业模式的威胁。随著美国总统特朗普和中国国家主席习近平本周在华盛顿会晤，两国可能正进入AI军备竞赛的新阶段。 金融市场长期以来一直担忧美国科技公司为支撑AI建设而进行的大规模借贷，但最近几周，业内高层人士突然抛出并
AI丨反驳AI威胁人类生存说法 特朗普斥为骗局
美国总统特朗普周一与辉达行政总裁黄仁勋(Jensen Huang)通电话，通话期间，特朗普反驳有关人工智能(AI)带来危险的说法，并斥之为骗局。 接听特朗普电话时，黄仁勋正在美国洛杉矶「All-In」峰会上发表演讲，特朗普致电时，通话被切换为免提模式。 根据一名与会者在社交媒体上发布的短片，「我告诉你，这完全是个骗局，数据中心很棒，它们能让人们致富，也能让各州变得富裕」。 特朗普介入有关AI的激烈
解读：专家们所担忧的人工智能“超级智能”是什么？
人工智能领域最重大的争论，已经不再是关于聊天机器人或深度伪造。 而是关于人类是否正处于制造出比人类更聪明的机器的边缘，以及接下来会发生什么。 最近几天，这一问题再次受到关注。此前，一名研究人员从Anthropic离职并警告称，领先的人工智能公司正“直奔自我提升的超级人工智能而去，是在拿我们的生命做赌博”；而另一位Anthropic的研究人员则表示，他个人估计，在未来十年内人工智能毁灭全人类的概率超
AI 不会终结人类……对吧？——播客
AI 不会终结人类……对吧？——Full Story 播客 科技界的一系列人物一直在就人工智能带来的生存威胁发出警告——甚至为此辞职。我们究竟该有多担心？《今日焦点》主持人安妮·凯利与科技编辑罗伯特·布斯展开对话