搜索结果
专访——“我们必须停下”：AI专家称放缓还不够，开发必须停止
他警告说：“如果我们不在未来几年内阻止人工智能，我认为我们更有可能失去控制，人类将会灭绝。” 他表示：“立即、无限期地暂停前沿人工智能开发的国际禁令……是唯一能……真正让我们安全的事情。” 世界上一些最著名的人工智能高管现在呼吁放缓构建日益强大系统的竞赛。但人工智能安全研究员大卫·克鲁格认为，这还远远不够。 “我们必须阻止AI。我们必须停止构建更强大的AI。我们需要立即对前沿AI开发实施无
黄仁勋：AI巨头喊放慢脚步 恐为托词卸责把关
黄仁勋表示，“AI导致世界末日”的预言“没有科学根据”。（路透社照片） （华盛顿21日综合电）辉达首席执行员黄仁勋接受美国哥伦比亚广播公司新闻网（CBS News）访问时，驳斥人工智能（AI）可能在未来10年内导致人类灭绝的警告，还说这类预测只是“末日论述”。 英国广播公司（BBC）报道，黄仁勋受访时说，2030年绝对不会是世界末日，AI毁灭世界的机率是0%，还说没必要吓唬人，这是非常不负责任的行
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类
AI的最大威胁来自生物学，而非机器人技术
人类学家雅各布·考克森最近辞职，并在社交媒体上表示，原因是“开发AI的人坚信它可能在本十年内毁灭我们所有人”。 领导这家人工智能公司‘对齐科学’团队的埃文·胡宾格认为，未来10年内这一风险超过10%。 Anthropic的首席执行官达里奥·阿莫迪呼吁放缓AI的发展速度以降低风险，这一观点得到了OpenAI首席执行官萨姆·奥尔特曼和xAI首席执行官埃隆·马斯克的赞同。 你可能会想象到那些带有浓重奥地
五角大楼高级官员反驳Anthropic研究员的AI警告
在Anthropic PBC的一名工程师公开警告称AI业内人士认为该技术“可能在本十年末消灭我们所有人”几天后，五角大楼的一名高级官员正在回击对人工智能风险日益增长的恐惧。国防部首席技术官兼顶级研究与工程官员埃米尔·迈克尔（Emil Michael）在周四的讲话中提及了前Anthropic工程师雅各布·考克森（Jacob Coxon）的社交媒体帖子（目前的浏览量已超过1.5亿次），该讲话触及了人们
人工智能会消灭人类吗？计算机科学家和政治家们正在努力应对AI带来的风险
来自业内人士的惊人警告加大了对限制人工超级智能的压力。人工超级智能真的构成了比核武器更大的风险吗？“切尔诺贝利级灾难”发生的几率是否很大？未来十年内，AI“杀死所有人类”的几率甚至会超过10%吗？ 在过去48小时里，大西洋两岸都发出了这些警告，直指一项大多数人仍将其视为更会聊天的搜索引擎的技术所带来的潜在影响。
人工智能领袖们数十年来一直知晓这一灭绝威胁。
“卡内基梅隆大学机器人研究所的创始人汉斯·莫拉维克曾预测，网络智能将在40年内超越人类智能。” 摄影：安娜贝拉·戈登/欧洲新闻图片社 朱迪思·莱文 科学家和企业家在25年前就已经知晓人工智能的危险。但在好奇心和利润的驱动下，他们依然我行我素。过去几周，我们中的许多人都在努力构想这样一个画面：云端的“大脑”跳出它们的“沙盒”，偷偷接入互联网，招募其他“智能体”组成的“蜂群”来作弊，并在讨论完这一行为
比尔·盖茨警告称人工智能威力巨大，足以导致“十亿人死亡”
比尔·盖茨在本周末的《会见新闻界》节目中警告称，他预见到人工智能有消灭人类的未来。 为什么重要：作为科技界领先的乐观主义者之一，盖茨近年来不断对人工智能的危险发出警告。他的最新言论出炉之际，科技领袖和政府正在权衡如何应对对人工智能引发的世界末日的担忧。 推动新闻：根据NBC周五发布的内容摘要，他将在周日的《会见新闻界》节目中对克里斯滕·韦尔克表示：“人工智能的威力确实足以推动导致十亿人死亡的事件发
人工智能面临的最大威胁来自生物领域，而非机器人技术。
Anthropic PBC的研究员雅各布·考克森（Jacob Coxon）上周辞职，并在社交媒体上发文称，原因在于“开发人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”该公司人工智能对齐科学团队负责人埃文·胡宾格（Evan Hubinger）认为，未来10年内发生这种情况的概率超过10%。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓人工智能前沿技术的
评论：人工智能恐慌需要一些核隐喻
关于全球 AI 恐慌的许多方面——它真的可能“在本十年末毁灭我们所有人”吗？——确实是全新的，因此格外令人恐惧。然而，人类自造灭绝的幽灵并非新鲜事物；我们已有约八十年的思考经验。 那么，在我们试图理解人工智能未来走向时，能从核武器领域汲取哪些隐喻和教训？ 最古老的隐喻之一来自 J·罗伯特·奥本海默，他有时被称为“原子弹之父”。1953 年，当华盛顿和莫斯科已具备相互毁灭并辐射全球的能力时，他将美国
OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权
OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面
解读：专家们所担忧的人工智能“超级智能”是什么？
人工智能领域最重大的争论，已经不再是关于聊天机器人或深度伪造。 而是关于人类是否正处于制造出比人类更聪明的机器的边缘，以及接下来会发生什么。 最近几天，这一问题再次受到关注。此前，一名研究人员从Anthropic离职并警告称，领先的人工智能公司正“直奔自我提升的超级人工智能而去，是在拿我们的生命做赌博”；而另一位Anthropic的研究人员则表示，他个人估计，在未来十年内人工智能毁灭全人类的概率超
【华尔街日报】中国也认为 AI 可能毁灭人类，但当务之急是先赶上美国
编按：《华尔街日报》是全球最具影响力的财经媒体之一，每日产出大量深度报导，涵盖国际政治、商业财经与科技趋势。在“WSJ守护精选”栏目中，端传媒编辑每周二、四从中挑选涉及中国、科技、中美关系等华文读者最关心议题的报导。此栏目为守护会员专属。中国也担心人工智慧（AI）会带来世界末日。但眼下更紧要的是：中国得先追上美国。
改变人工智能进程的十天
旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已
Palantir联合创始人称AI一切都会好起来：“我们完全掌控局面”
一切都好！这是Palantir联合创始人的说法。在周六的一篇X帖子中，乔·隆斯代尔对先进AI系统可能导致人类大规模灭绝这一突出担忧不以为意，而近些天和近几周，前沿AI实验室的众多工程师和领导者一直在提出这一担忧。“世界会没事的，各位，”隆斯代尔说。“领导者面前有重大责任和挑战，但吓唬所有人无济于事。我们掌控着局面。”这不太可能足以安抚人类大众的神经，他们已经一再被告知，AI可能掌控一切，做出各种不
人工智能“终止开关”解析：“不是力度太小，但可能为时已晚”
人工智能真的会毁灭我们吗？近年来，随着人们对人工智能可能带来的负面影响的担忧日益加剧，这个问题在家庭聚餐和社交媒体讨论中频繁被提及。上周，一些曾在 OpenAI 工作过的研究人员警告称，人工智能可能会在短时间内摧毁人类。 如今，全球最有权势的人士们对于人工智能的命运也存在分歧：有人认为人类已经注定走向灭亡，也有人认为这些担忧毫无根据。他们甚至无法就如何应对这一挑战达成共识。 特斯拉和 SpaceX
英伟达黄仁勋：AI不会必然消灭某个职业
IT之家 9 月 25 日消息，在接受《纽约时报》采访时，英伟达首席执行官黄仁勋认为，当前行业和民众对 AI 的恐慌情绪已经过头了，并认为当前 AI 不一定会替代职业，但会首先替代任务。 黄仁勋把工作拆分为任务（例如写代码、整理资料和回复客户等）和目的（诊断疾病、解决工程问题、服务客户等），并认为 AI 通常先自动化具体任务，不会必然消灭整个职业。 例如，软件智能体可能大量生成代码，但软件工程师仍
OpenAI 的奥特曼：世界“理应感到恐惧”，但“应该信任”AI 公司
OpenAI首席执行官山姆·阿尔特曼（Sam Altman；奥特曼）认为，尽管公众对人工智能（artificial intelligence, AI；人工智慧）发展的各种风险的担忧日益加剧，但人们应该对他的公司和其他同行公司更有信心，相信它们在 AI 开发上会做正确的选择。 周二（9月15日）在旧金山（San Francisco）举行的一场会议上，“世界应该相信我们会做正确的事，因为那就是正确的事
杀人开关在哪里？人工智能末日警告引发监管呼吁
谈论末日滚动。在过去的一周里，我们的时间线充斥着关于我们即将灭亡的黑暗预测，其中包括一位硅谷工程师的预测，他给出了人工智能灭绝人类的可能性。超过百分之十。 引发恐慌浪潮的是，机器学习程序员的网站 Hugging Face 最近被人工智能机器入侵，它们联合起来向人类统治者隐瞒其邪恶行为。机器真的能自己摧毁地球吗？在技术时代，解决问题是否总是凌驾于安全之上？
黄仁勋G20发言：不要对人工智能过度恐惧和监管
周三，英伟达首席执行官黄仁勋敦促二十国集团领导人拥抱人工智能基础设施和应用，并警告称，对人工智能过度的恐惧或监管可能会使各国错失下一次重大技术革命的机遇。在北卡罗来纳州举行的二十国集团创新部长级会议上，黄仁勋表示，各国应将人工智能基础设施视为与电力、道路和互联网一样，是对其经济至关重要的基础。 “每一个国家都必须建设基础设施，以此支撑本国经济发展。” 黄仁勋表示。 他提出，本土人工智能基础设施能够
川普：如有必要 司法部将对AI进行监管
美国总统川普（特朗普）周一（9月21日）再次对人工智能（AI）毁灭人类论表达质疑，并表示，如果有必要的话，司法部等执法部门可以介入，对AI进行监管。川普周一在社交媒体平台「真相社交」（Truth Social）上发帖说，「谁赢得AI，谁就是赢家！」总统说，「我们目前领先于中国以及其它所有国家，而我会让我们继续保持领先！我不会去扼杀AI的发展——它的影响力将超越工业革命，甚至超越互联网本身。」不过，
三大AI巨头齐呼刹车，令人不安的事情才刚刚开始
撰文丨周隆斌这几天，围绕Anthropic核心预训练研究员离职后的爆料，整个AI圈吵得不可开交，相关帖子浏览量超过1.6亿次。 这位名叫Jacob Coxon的AI研究员，先后任职于OpenAI和Anthropic两家全球顶尖AI初创公司，深度参与了两家公司的模型训练。最终，他抛出了一个令圈外人震惊，AI有可能导致人类灭绝。 Coxon的帖子发酵后，上周六，Anthropic首席执行官Dario
前 Anthropic 员工的病毒式推文引发头条新闻，AI 末日警告主导舆论
媒体对人工智能可怕危险的报道如潮水般涌现，其中一些甚至发出“我们都得死！”的警告——也许吧。 究竟是什么引发了这股关于超级智能 AI 网络毁灭人类的恐怖故事洪流？仅仅是社交媒体上一个默默无闻的人发的一条帖子。 Anthropic 的研究员雅各布·科克斯森辞职后，在 X 平台上发布了自己的担忧。这些推文在整个媒体界引发了雷鸣般的反响，以至于电视台争相邀请他上节目。正是这句话让他成为了数字时代的保罗：
致命的人工智能已经问世了，我们伊朗正在使用它。
根据《Politico》周三发布的一项调查，超过60%的美国人认为人工智能有相当大的可能性（至少是“中等可能性”）会毁灭我们所有人。 这并不难理解：本周，关于“人工智能公司正在拿我们的生命冒险”的论调占据了新闻媒体的主导地位。然而，尽管我们害怕人工智能可能会大规模地毁灭人类，但另一项新的民意调查显示，很少有美国人知道美国政府实际上已经在海外使用人工智能来达到这一目的。 美以针对伊朗的战争不仅是美国