搜索结果
为什么人工智能领袖呼吁放缓？
过去一周，人工智能领域发生了引人瞩目的事件。上周二，一名研究人员从Anthropic辞职，称人工智能公司“正一路冲向可自我改进的超级智能，拿我们的生命当赌注”。一名Anthropic的在职员工对此表示认同，称他认为人工智能在未来10年内导致人类灭绝的可能性超过10%。 随后在周六，Anthropic首席执行官达里奥·阿莫代伊发表文章，呼吁放缓人工智能的发展，以便安全措施能够跟上技术的步伐。他的竞争
AI的最大威胁来自生物学，而非机器人技术
人类学家雅各布·考克森最近辞职，并在社交媒体上表示，原因是“开发AI的人坚信它可能在本十年内毁灭我们所有人”。 领导这家人工智能公司‘对齐科学’团队的埃文·胡宾格认为，未来10年内这一风险超过10%。 Anthropic的首席执行官达里奥·阿莫迪呼吁放缓AI的发展速度以降低风险，这一观点得到了OpenAI首席执行官萨姆·奥尔特曼和xAI首席执行官埃隆·马斯克的赞同。 你可能会想象到那些带有浓重奥地
“人工智能教父”警告国会“可能还有一年”的时间来监管人工智能
华盛顿——被誉为“人工智能教父”的诺贝尔奖得主杰弗里·辛顿向国会发出严峻警告，称国会可能只剩一年时间对人工智能实施保障措施，否则将失去对它的控制。“也许一年，但不会比一年长多少，”辛顿周三晚间在与参众两院议员闭门会晤后表示。“如果你看看关于我们何时会实现超级智能的预测，”他继续说道，“过去可能是30年，可能是50年。后来缩短到可能10年，可能20年。现在很多人说，很多研究人员都说只需要几年。” 辛
FT社评：是时候给尖端人工智能开发按下暂停键了
确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类
人工智能面临的最大威胁来自生物领域，而非机器人技术。
Anthropic PBC的研究员雅各布·考克森（Jacob Coxon）上周辞职，并在社交媒体上发文称，原因在于“开发人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”该公司人工智能对齐科学团队负责人埃文·胡宾格（Evan Hubinger）认为，未来10年内发生这种情况的概率超过10%。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓人工智能前沿技术的
人工智能“终止开关”解析：“不是力度太小，但可能为时已晚”
人工智能真的会毁灭我们吗？近年来，随着人们对人工智能可能带来的负面影响的担忧日益加剧，这个问题在家庭聚餐和社交媒体讨论中频繁被提及。上周，一些曾在 OpenAI 工作过的研究人员警告称，人工智能可能会在短时间内摧毁人类。 如今，全球最有权势的人士们对于人工智能的命运也存在分歧：有人认为人类已经注定走向灭亡，也有人认为这些担忧毫无根据。他们甚至无法就如何应对这一挑战达成共识。 特斯拉和 SpaceX
盖茨基金会承诺捐赠10亿美元以应对人工智能不平等
盖茨基金会已承诺在未来两年内至少支出10亿美元，以扩大全球对人工智能的获取，并帮助“缩小最富有与最贫穷之间的差距，而不是扩大差距”。基金会主席比尔·盖茨一直公开谈论人工智能的危险。这笔捐款将投资于人工智能项目，以弥合社会不平等。
OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权
OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面
韩国希望实现“全民免费使用人工智能”的目标。但社会真的为此做好了准备吗？
在硅谷及其他地区，人工智能的设计者们日益警告其对人类构成的风险。 Anthropic 首席执行官 Dario Amodei 希望行业放慢脚步。一位曾在该公司工作的前工程师，同时也曾在竞争对手 OpenAI 任职，在本月早些时候辞职后对记者表示，他“真的感到害怕”，因为不受约束的 AI 发展可能意味着“我们在不久的将来都可能会死”。 甚至被称为“AI 教父”的诺贝尔奖得主、计算机科学家 Geoffr
人工智能真的会毁灭人类吗？创造这项技术的先驱们各抒己见
随着研究人员警告人工智能可能带来灾难性风险，一些曾帮助开发这项技术的先驱也加入进来，对能力不受约束地提升所带来的危险发出更多警告。 过去一周出现了一系列严厉的人工智能安全警告，来自Anthropic、OpenAI和Google DeepMind等主要人工智能实验室的研究人员都对开发这项技术可能带来的灾难性风险敲响警钟。 包括萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯和埃隆·马斯克在内的人工
前 Anthropic 员工的病毒式推文引发头条新闻，AI 末日警告主导舆论
媒体对人工智能可怕危险的报道如潮水般涌现，其中一些甚至发出“我们都得死！”的警告——也许吧。 究竟是什么引发了这股关于超级智能 AI 网络毁灭人类的恐怖故事洪流？仅仅是社交媒体上一个默默无闻的人发的一条帖子。 Anthropic 的研究员雅各布·科克斯森辞职后，在 X 平台上发布了自己的担忧。这些推文在整个媒体界引发了雷鸣般的反响，以至于电视台争相邀请他上节目。正是这句话让他成为了数字时代的保罗：
联合国秘书长呼吁协调全球人工智能监管
联合国秘书长安东尼奥·古特雷斯表示，各国必须协调全球监管人工智能的努力，这呼应了在世界顶级人工智能公司领导人发出警告后对该技术进行更密切监控的呼吁。 古特雷斯周三对记者表示：“我们不能忽视人们提出的担忧，特别是那些处于人工智能发展前线的人们提出的担忧。”“我意识到地缘政治分歧及其可能产生的诱惑。但世界承受不起人工智能安全性的竞相竞争。”在他发表上述言论之前，Anthropic PBL领导人达里奥·
AI需要紧急关停开关？微软布拉德・史密斯给出肯定答案
“真正的问题在于：如果你认为应当放慢脚步，那就不要一味高速狂奔，不要等到外力逼迫你才停下来。”这是微软副董事长兼总裁布拉德・史密斯，于联合国大会期间对艾伦・默里所说的一番话。他所探讨的议题是：前沿大模型厂商是否应当踩下减速踏板，确保自己研发的技术不会给人类带来灭顶之灾。 就在他发表此番言论的同一天，Anthropic 首席执行官达里奥・阿莫代伊与 OpenAI 首席执行官萨姆・奥尔特曼在联合国发言
马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉
CNBC每日开盘：人工智能安全吗？行业领袖和特朗普意见不一
大家好，我是李嘉欣，来自新加坡。欢迎收听 CNBC 的《每日开盘》。 关于人工智能“可能杀死全人类”的社交媒体狂潮，促使美国人工智能科技巨头们齐聚一堂，讨论安全问题以及放缓模型开发进程的前景。然而，美国总统唐纳德·特朗普对人工智能的讨论并不满意，他表示“人工智能唯一需要的控制或‘护栏’是一位强大而聪明的（高智商！）总统，而美国拥有这样的总统，而且不止一位！”与此同时，中东冲突的经济成本持续攀升，美
人工智能（AI）会对我们的生存构成严重威胁吗？
一名抗议者在美国加利福尼亚州旧金山的OpenAI总部外，呼吁暂停人工智能发展。 Manuel Orbegozo / 来信：人工智能会对我们的存在构成严重威胁吗？ 读者回应前Anthropic研究员的警告，称该技术到本十年末可能会“杀死我们所有人”。我们又一次看到一批技术宅声称人工智能将发展出超级智能并杀死我们所有人（更多Anthropic研究员警告AI的危险，但马斯克否认是“心理战”，9月10日）
五角大楼高级官员反驳Anthropic研究员的AI警告
在Anthropic PBC的一名工程师公开警告称AI业内人士认为该技术“可能在本十年末消灭我们所有人”几天后，五角大楼的一名高级官员正在回击对人工智能风险日益增长的恐惧。国防部首席技术官兼顶级研究与工程官员埃米尔·迈克尔（Emil Michael）在周四的讲话中提及了前Anthropic工程师雅各布·考克森（Jacob Coxon）的社交媒体帖子（目前的浏览量已超过1.5亿次），该讲话触及了人们
人工智能真正的末日为何已经到来——凯和卡特的国内访谈
一位前Anthropic研究员关于人工智能的末日宣言引发了全球恐慌，担心这项技术可能会终结我们所有人。 在美国华盛顿今天举行的一次警告人工智能危险的活动上，美国参议员伯尼·桑德斯表示，国会一直“睡大觉”。奇怪的是，史蒂夫·班农也出现在了同一个活动上。 但这种反应是否会分散人们对人工智能已造成的更紧迫问题的注意力？ 凯·赖特和卡特·谢尔曼与《卫报》科技记者乔安娜·布伊扬一起，将这一时刻置于背景中，她
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼
人工智能究竟如何可能致我们于死地？
当数学家兼软件工程师雅各布·科克森（Jacob Coxon）上周辞去他在Anthropic的研究职位时，他警告说：“构建人工智能的人们真诚地相信，到本十年末，它可能会让我们所有人丧命。”如果这不是事实，这本来会是一句惊人的言论。事实上，人工智能领域的领导者们长期以来一直在说同样的话。 2018年，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei，当时是OpenAI的研究科学家）
“法律应该取缔它们”：约瑟夫·高登-莱维特等人在《时代》周刊百大AI影响力晚宴上发言
演员约瑟夫·高登-莱维特周一表示，美国政府应“关闭”大型人工智能公司，直到它们能证明其产品是安全的。 在旧金山举行的第三届年度TIME100 AI影响力晚宴上，这位演员兼明星在祝酒词中告诉宾客，如今的人工智能开发者已经失去了对其创造物的控制，必须受到监管，以防止潜在危害。 “为什么汽车可以安全驾驶？为什么房屋可以安全居住？这是因为汽车公司和建筑公司……它们必须遵守他的言论赢得了观众中许多人的热烈掌
比尔·盖茨告诉埃兹拉·克莱因，人工智能今年跨过了生物和网络领域的门槛
比尔·盖茨表示，人工智能在今年早些时候跨过了两个危险的门槛：它现在能够协助进行生物恐怖主义袭击，并能发动破坏力巨大的网络攻击。他在《埃兹拉·克莱因秀》（The Ezra Klein Show）上发表了这一观点，该采访于周二由《纽约时报》发表。 盖茨对克莱因说：“我们在今年早些时候跨过了网络门槛和生物门槛。” 在网络方面，他指出有些模型能够发现人类已经检查了20年以上的代码中的安全漏洞。他提到了催生