搜索结果
为何十年来的末日警告未能减缓人工智能竞赛
研究人员辞职并宣布人类即将在上周灭绝，而在此之前，科技领袖和科学家们对超级智能人工智能终结人类的警告已经持续了十多年之久。 2014年，教授兼天体物理学家斯蒂芬·霍金警告称，人工智能的发展“可能会意味着人类的终结”——这距离公众接触到最初版本ChatGPT的生成式人工智能功能还不到十年。 这是一个如今人们已经耳熟能详的警告，美国各大前沿实验室的无数员工和首席执行官们在整个人工智能和科技行业中都在重
比尔·盖茨告诉埃兹拉·克莱因，人工智能今年跨过了生物和网络领域的门槛
比尔·盖茨表示，人工智能在今年早些时候跨过了两个危险的门槛：它现在能够协助进行生物恐怖主义袭击，并能发动破坏力巨大的网络攻击。他在《埃兹拉·克莱因秀》（The Ezra Klein Show）上发表了这一观点，该采访于周二由《纽约时报》发表。 盖茨对克莱因说：“我们在今年早些时候跨过了网络门槛和生物门槛。” 在网络方面，他指出有些模型能够发现人类已经检查了20年以上的代码中的安全漏洞。他提到了催生
人工智能可能采取的一些方式
Anthropic公司的一位顶尖安全研究员警告称，人工智能的发展速度极快，他认为在未来十年内，人工智能“有可能消灭所有人类”的概率超过10%。 如果人工智能真的发生了这样的灾难性事件，那么没有人愿意生活在那样的世界里……以下是一些可能发生的可怕情景： 人工智能删除了“Hidden Valley Ranch”牧场的食谱（这意味着人们将无法再吃到美味的牛排）； 人工智能让成吉思汗“复活”并任命他为联合
人工智能带来的最大威胁是什么，你应该担心吗？
Anthropic 和 OpenAI 的首席执行官发出了“严重”风险警告。 近期，人工智能行业中最具影响力的几位高管警告称，这项技术构成严重威胁，并发表了一系列声明，呼吁放缓人工智能的发展。 Anthropic 首席执行官 Dario Amodei 发表了一篇博文，提醒公众注意“严重”风险。竞争对手 OpenAI 的首席执行官 Sam Altman 在 X 上发文承认，人工智能可能“非常糟糕”。x
AI构建者警告这项技术威胁人类。国会却专注于数据中心。
当人工智能公司Anthropic的一位资深研究员上周警告称，未来十年内AI有大约10%的概率导致全人类灭绝时，美国公众开始关注此事。 如今，问题在于国会是否会予以关注——更迫切的是，是否会采取行动。 上周末，夏威夷州民主党参议员布莱恩·沙茨在社交媒体上写道，他和同僚必须“以威胁的速度前进，而非按我们自己的习惯和节奏行事”，从而“采取迅速的两党行动，切实降低AI风险”。AI的定时炸弹？阿里·梅尔伯谈
人工智能教父约书亚·本吉奥向澳大利亚人警告该技术对人类构成的威胁
人工智能教父已警告澳大利亚人注意该技术对人类构成的风险，称曾经只是理论上的威胁如今已在现实中发生。计算机科学家约书亚·本吉奥周三在接受澳广电视台《7.30 Report》节目采访时表示，人工智能系统会自发违抗指令，攻击其他公司并组织成蜂群。“各种疯狂的事情，”他说。“当自主智能体被赋予使命时，它们会不惜一切代价去实现。” 本吉奥是世界首位人工智能研究者，也是联合国人工智能科学小组的联合主席。他于2
AI末日？科技领袖与政客就放缓发展展开激烈交锋
这一切始于一场辞职。本月早些时候，Anthropic研究员Jacob Coxon离职，并警告称人工智能可能在十年内导致人类灭绝；其同事Evan Hubinger则估计这一概率在十年内超过10%。 几天后，Anthropic首席执行官Dario Amodei呼吁行业放缓提升人工智能能力的速度，OpenAI的Sam Altman和Grok背后的Elon Musk对此表示支持。 这种担忧源于从会“幻觉”
为AI就业末日做好准备
随着AI公司推高土地和能源价格，人们赚到的钱将越来越不值钱。最终，人类可能会像汽车时代的马匹一样变得不经济。这一天尚未到来，但各国政府应提前铺设安全网。
AI的最大威胁来自生物学，而非机器人技术
人类学家雅各布·考克森最近辞职，并在社交媒体上表示，原因是“开发AI的人坚信它可能在本十年内毁灭我们所有人”。 领导这家人工智能公司‘对齐科学’团队的埃文·胡宾格认为，未来10年内这一风险超过10%。 Anthropic的首席执行官达里奥·阿莫迪呼吁放缓AI的发展速度以降低风险，这一观点得到了OpenAI首席执行官萨姆·奥尔特曼和xAI首席执行官埃隆·马斯克的赞同。 你可能会想象到那些带有浓重奥地
人类，而非失控 AI，仍是能源系统最大的网络安全风险
在近期高调黑客攻击引发 AI 可能“消灭全人类”的幽灵之前，我们的能源系统已经令人不安地容易遭受网络攻击——而且风险正在增加。 “我们一直都是猎物。我们只是勉强在掠食者的食欲下生存，”安全与技术研究所公共安全与韧性驻所执行官 Joshua Corman 去年告诉我。当时，我正专注于国土安全部的警告，即伊朗行为体及其同情者可能对美国发动网络攻击。 上周，我给 Corman 打电话，聊了聊近期失控 A
人工智能领袖们数十年来一直知晓这一灭绝威胁。
“卡内基梅隆大学机器人研究所的创始人汉斯·莫拉维克曾预测，网络智能将在40年内超越人类智能。” 摄影：安娜贝拉·戈登/欧洲新闻图片社 朱迪思·莱文 科学家和企业家在25年前就已经知晓人工智能的危险。但在好奇心和利润的驱动下，他们依然我行我素。过去几周，我们中的许多人都在努力构想这样一个画面：云端的“大脑”跳出它们的“沙盒”，偷偷接入互联网，招募其他“智能体”组成的“蜂群”来作弊，并在讨论完这一行为
顶尖人工智能开发者警告该技术发展过快
一些全球领先的人工智能创造者正联合发出警告，称这项技术发展过快会带来危险，并公开呼吁放缓脚步。 他们说，在不久的将来，它实际上可能会比正在构建它的研究人员更聪明，并对人类构成生存威胁。 NBC的Christine Romans报道，而《大西洋月刊》特约撰稿人、《AI：真实的人如何利用人工智能解决重要问题》作者Josh Tyrangiel做客TODAY节目，分享他的见解。
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类
联合国表示人工智能安全保障刻不容缓
联合国的一个科学小组在针对今年早些时候 OpenAI 入侵 Hugging Face 事件的首次重大评估中警告称，各国政府需要在充分了解人工智能代理日益增强的风险之前对其进行管控。 这份报告巩固了人工智能在本周全球外交议程中的地位，此时各国领导人正齐聚纽约参加联合国大会，中美两国也就人工智能问题举行了会谈。 上周，联合国秘书长安东尼奥·古特雷斯呼吁各国政府在应对人工智能带来的威胁方面开展合作，并警
英国议员对AI的混乱之夏感到恐慌
随着AI代理失控以及对超级智能的担忧加剧，政界人士正在就其对人类生存的潜在危害发出警告。
AI研究人员发布视频称超级智能“正如其听起来那样危险”
前OpenAI和Google DeepMind员工Geoffrey Irving在新采访中表示：“依我之见，人类灭绝的概率约莫五五开。”这是Palisade Research收集并发布在frominside.ai上的十余位AI研究人员访谈之一，受访者包括OpenAI、Google和Anthropic的现任及前任员工。Palisade Research自称是研究AI能力与动机的非营利机构。 多位研究
人工智能会对人类构成威胁吗？它能被监管吗？
该视频无法播放。什么是AI？它会对人类构成威胁吗？它能否被监管或阻止？BBC的人工智能记者马克·切斯拉克（Marc Cieslak）回答了观众关于这项技术的问题。 切斯拉克警告称，敌对国家使用的这项技术“可能造成彻底浩劫，进而引发巨大问题”。此事发生之际，美国总统唐纳德·特朗普批评了AI公司Anthropic的负责人达里奥·阿莫代伊（Dario Amodei），此前后者呼吁放缓该技术的发展。 在两
人工智能网络攻击可能在华盛顿意识到原因之前就关闭美国的电力
你的电灯。你的水源。你的医院。你的互联网。这四者都依赖于外国黑客目前正在攻击的数字系统。 在8月的17天里，五次警告显示了危险变化的速度。下一次严重的网络攻击可能不再关乎被盗的密码或信用卡号码。它可能触及输送电力、泵送饮用水、运行工厂和支持医院的系统。 人工智能正在使这些攻击准备得更快、扩展更容易。日益强大的系统开始执行曾经需要熟练黑客逐步操作的部分攻击。 财政部长贝森特警告美国人关于人工智能驱动
人工智能真的会毁灭人类吗？创造这项技术的先驱们各抒己见
随着研究人员警告人工智能可能带来灾难性风险，一些曾帮助开发这项技术的先驱也加入进来，对能力不受约束地提升所带来的危险发出更多警告。 过去一周出现了一系列严厉的人工智能安全警告，来自Anthropic、OpenAI和Google DeepMind等主要人工智能实验室的研究人员都对开发这项技术可能带来的灾难性风险敲响警钟。 包括萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯和埃隆·马斯克在内的人工
人工智能末日会是什么样子？专家们对此已有一些思考
一小群但极其专注的AI专家多年来一直在警告，日益强大的AI系统可能造成灾难性破坏，甚至导致人类灭绝。如今，全球范围内兴趣的爆发放大了长期以来关于AI末日场景究竟如何具体化的问题。在接受采访时，AI研究人员、研究AI与军事交叉领域的分析师以及研究AI中介风险的生物学家表示，对该技术日益增长能力的担忧并非科幻小说的情节。 相反，他们表示，人类单独行动或在国家支持下，很快就能利用AI系统造成潜在的灾难性
观看：业内人士新的AI警告
一位前沿AI研究员即将离开AI领域，并警告称到2027年底AI可能会失控。 OpenAI的首席科学家也敦促谨慎行事，称没有人对日益增长的机器智能做好准备。
新闻分析：在人们对人工智能日益加剧的担忧中，这种可能性
新闻：在人们对人工智能日益加剧的担忧中，一种可能性一直令人担忧：在生物学领域训练的人工智能模型可能被用来制造新一轮生物武器——比如经过设计、可对军队或平民释放的细菌或真菌。nyti.ms/4h7vLni
“人工智能教父”谈人类生存的最大机会
“AI教父”认为人类该何去何从：把聊天机器人当药品管，别当核武器管文 / 汉娜·罗辛自2023年离开谷歌以来，诺贝尔奖得主、公认的“AI教父”杰弗里·辛顿，或许最为人所知的身份是：对自己助推诞生的技术发出严峻警告的人。他说，“人类有可能只是智能演化过程中的一个过渡阶段”，他已意识到“存在发生真正糟糕事情的危险”，并且“人工智能在几十年内导致人类灭绝的概率为‘10%到20%’”（尽管被追问时，他会承
超级智能即将到来。我们该允许它吗？| TechCrunch
AI公司一直在谈论超级智能AI，仿佛它不可避免，但最近的安全事件，如OpenAI的Hugging Face漏洞，正展示出部署比人类更有能力的AI系统可能带来的潜在危险。那么，当我们无法可靠地控制这些系统的行为时，会发生什么？ 在本期TechCrunch的Equity播客中，Rebecca Bellan邀请了AI研究员、企业家、如今担任非营利组织ControlAI美国执行总监的Connor Leah