搜索结果
为什么人工智能领袖呼吁放缓？
过去一周，人工智能领域发生了引人瞩目的事件。上周二，一名研究人员从Anthropic辞职，称人工智能公司“正一路冲向可自我改进的超级智能，拿我们的生命当赌注”。一名Anthropic的在职员工对此表示认同，称他认为人工智能在未来10年内导致人类灭绝的可能性超过10%。 随后在周六，Anthropic首席执行官达里奥·阿莫代伊发表文章，呼吁放缓人工智能的发展，以便安全措施能够跟上技术的步伐。他的竞争
专访杜奕瑾：AI毁人类预言 不是耸人听闻
随著生成式人工智慧（AI）技术的爆发式成长，关于AI安全、伦理监管以及人类生存风险的争议正达到前所未有的顶峰。近期，前 OpenAI 与 Anthropic 研究员雅各布・考克森（Jacob Coxon）等顶尖专家公开吹哨，警告通用人工智慧（AGI）若缺乏严格约束，可能在 2030 年前对人类生存构成毁灭性威胁；Anthropic 研究员艾文・赫伯格（Evan Hubinger）亦提出未来十年内人
比尔·盖茨警告称人工智能威力巨大，足以导致“十亿人死亡”
比尔·盖茨在本周末的《会见新闻界》节目中警告称，他预见到人工智能有消灭人类的未来。 为什么重要：作为科技界领先的乐观主义者之一，盖茨近年来不断对人工智能的危险发出警告。他的最新言论出炉之际，科技领袖和政府正在权衡如何应对对人工智能引发的世界末日的担忧。 推动新闻：根据NBC周五发布的内容摘要，他将在周日的《会见新闻界》节目中对克里斯滕·韦尔克表示：“人工智能的威力确实足以推动导致十亿人死亡的事件发
人工智能面临的最大威胁来自生物领域，而非机器人技术。
Anthropic PBC的研究员雅各布·考克森（Jacob Coxon）上周辞职，并在社交媒体上发文称，原因在于“开发人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”该公司人工智能对齐科学团队负责人埃文·胡宾格（Evan Hubinger）认为，未来10年内发生这种情况的概率超过10%。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓人工智能前沿技术的
Palantir联合创始人称AI一切都会好起来：“我们完全掌控局面”
一切都好！这是Palantir联合创始人的说法。在周六的一篇X帖子中，乔·隆斯代尔对先进AI系统可能导致人类大规模灭绝这一突出担忧不以为意，而近些天和近几周，前沿AI实验室的众多工程师和领导者一直在提出这一担忧。“世界会没事的，各位，”隆斯代尔说。“领导者面前有重大责任和挑战，但吓唬所有人无济于事。我们掌控着局面。”这不太可能足以安抚人类大众的神经，他们已经一再被告知，AI可能掌控一切，做出各种不
电影《大空头》原型：AI巨头制造“末日恐慌”其实另有图谋！
大空头史蒂夫•艾斯曼（Steve Eisman）似乎并不担心机器人末日。相反，他认为那些声称担忧人工智能（AI）会毁灭人类、带来世界末日的行业巨头其实“另有图谋”。 艾斯曼是电影《大空头》的原型人物之一。当时他作为纽伯格伯曼集团（Neuberger Berman）的高级投资组合经理，在全球金融危机爆发前做空次级抵押贷款，一战成名。 他认为，顶级人工智能实验室的恐慌性呼吁背后有某种动机，这将减缓该技
人工智能先驱杰弗里·辛顿称，人类因AI灭绝的风险为10%“并非不合理”
诺贝尔奖得主警告，先进人工智能可能通过网络攻击、虚假信息以及危险病毒的研发造成毁灭性影响。
尼克·克莱格淡化了对“神一般”的人工智能可能灭绝人类的担忧
尼克·克莱格驳斥了关于人工智能拥有“类似上帝般灭绝人类力量”的担忧，称这是科技巨头们“被自己的言论熏晕了”。 这位英国前副首相表示，科技巨头应专注于应对已知的“具体威胁”，如网络安全、生物武器和情感依赖，而不是那种“略显含糊的观点，即该技术不可避免地会发展出某种类似上帝般的力量，进而反噬我们并灭绝人类”。 克莱格在接受英国广播公司第四台《今日》节目采访时表示：“我认为这在某种程度上是出于自利，因为
教皇利奥呼吁开发不加剧分裂的人工智能系统
罗马，9月21日：曾警告人工智能可能将世界引向无尽战争风险的教皇利奥，周一敦促开发不加剧社会分裂、而是加强和平倡议的人工智能系统。 这位教皇在致罗马举行的人工智能问题会议的信息中表示：“在一个以冲突和分裂为特征的世界里，人工智能的发展需要一种受智慧和慈善启发的愿景。” 教皇呼吁开发“服务于每个人尊严并加强团结人类家庭纽带”的人工智能系统。 利奥是首位美国出生的教皇，他将应对人工智能发展可能带来的危