搜索结果
为什么人工智能领袖呼吁放缓？
过去一周，人工智能领域发生了引人瞩目的事件。上周二，一名研究人员从Anthropic辞职，称人工智能公司“正一路冲向可自我改进的超级智能，拿我们的生命当赌注”。一名Anthropic的在职员工对此表示认同，称他认为人工智能在未来10年内导致人类灭绝的可能性超过10%。 随后在周六，Anthropic首席执行官达里奥·阿莫代伊发表文章，呼吁放缓人工智能的发展，以便安全措施能够跟上技术的步伐。他的竞争
联合国人权事务高级专员警告：人工智能可能对人类构成“生存威胁"
联合国人权事务高级专员沃尔克·图尔克（Volker Türk）周一（9月7日）警告称，人工智能可能变得足够强大，足以威胁人类，并表示他将在未来几天敦促各公司降低风险。 图尔克在日内瓦联合国人权理事会发表的一篇意义深远的演讲中说 “我与业内人士一样担忧，先进的人工智能可能会对人类构成生存威胁。” 即将于下个月开始第二个任期的图尔克呼吁“必须全力以赴，在为时已晚之前，为人工智能的安全保障建立铁一般的保
Anthropic执行长：为确保AI安全 必要时将放慢脚步
（中央社联合国23日综合外电报导）Anthropic执行长阿莫戴（Dario Amodei）今天对联合国安全理事会（UNSC）发言时承诺，为确保人工智慧（AI）技术发布安全性，该公司将在必要时放慢脚步。 法新社报导，阿莫戴透过视讯向联合国安理会表示：「我们会视需要放慢脚步，以确保每一项后续推出的AI技术都确实安全。」OpenAI执行长阿特曼（Sam Altman）则告诉联合国安理会，当前AI发展「
马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了
美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉
马斯克：我早已为人工智能风险多次敲响警钟
人们早就见惯埃隆・马斯克放出论断，而这一次，自己一直都是对的。这位太空探索技术公司（SpaceX）与特斯拉的首席执行官，对 Anthropic 公司 CEO 达里奥・阿莫代伊发布的长文表示赞同。 具备递归自我迭代能力的人工智能，会快到超出人类理解与管控的范围；即便要研发这类技术，也必须万分谨慎。 为防范未来风险，前沿 AI 企业应当在内部派驻第三方评估人员，用来检测 AI 模型，监督实验室落实安全
【周刊提前读】最强AI呼吁放缓“军备竞赛” Anthropic意欲何为？
Anthropic创始人及CEO达里奥·阿莫代伊近日发文呼吁放缓人工智能模型能力的提升速度。图为当地时间2025年1月23日，阿莫代伊参加瑞士达沃斯召开的世界经济论坛年会。 “我们必须放缓人工智能（AI）模型能力的提升速度。”2026年9月12日，拥有全球性能最强AI大模型的Anthropic创始人及CEO达里奥·阿莫代伊（Dario Amodei）再次扮演AI安全“吹哨人”。 他发布博客称，
Anthropic推进上市筹备 年化营收料超1000亿美元
Anthropic首席执行官达里奥·阿莫代伊最近呼吁对人工智能开发速度施加更多护栏，这在华尔街和硅谷引发震动。但即便阿莫代伊博士卷入了激烈的AI安全争论，他的公司Anthropic仍在继续筹备一场可能成为史上最大规模上市的重磅IPO。 据四位知情人士透露，该公司预计今年年化营收将超过1000亿美元，高于截至7月的650亿美元年化营收。寻求参与IPO的投资者正用这些飙升的数字来证明Anthropic
Anthropic得了美国病
美国Anthropic公司首席执行官达里奥·阿莫代伊曾表示，如果强大的人工智能沿着正确的方向发展，世界会“美得令人惊叹”。 绝大多数疾病会被治愈，人类寿命可以翻倍，贫困将消失……甚至许多见证这一切的人“会感动落泪”。 为支撑这一愿景，An在国际主流榜单上，该公司研发的Claude系列模型目前包揽前三名；应用方面，今年5-7月的数据显示，39%全球开发者、47%美国开发者都在工作中使用其旗下最核心的
Anthropic 研究人员警告：失控的 AI 可能会毁灭人类
多位 Anthropic 的现任和前任研究人员对 AI 发出了严厉警告，暗示他们正在开发的技术可能在不久的将来毁灭人类。 曾在 Anthropic 和 OpenAI 担任研究员的雅各布·考克斯森（Jacob Coxon）周二指出，这两家公司在竞相研发超级智能的过程中都没有表现得负责任，并指责这些 AI 公司……
我们已被警告过人工智能——但它真的可能杀死人类吗？| 关于那件事
。 一位Anthropic的研究员Jacob Coxon因担心人工智能可能在未来十年内导致人类灭绝而辞职——随后出现了一系列警告。 Andrew Chang解释了“智能爆炸”可能带来的危险，这让人工智能行业的员工和专家们感到担忧。 （图片由The Canadian Press、Adobe Stock和Images提供）
特朗普下周拟在白宫召集AI行业高管
人工智能（AI）安全和监管，这场源于对人类命运严峻警告的辩论，已在华盛顿和硅谷内部形成了两大阵营——以美国总统特朗普为首的“激进发展派”，以及以“AI三巨头”为首的“慢节奏派”。 AI安全引爆舆论这场舆论风暴最初是由Anthropic的研究员Jacob Coxon引发的。他上周宣布辞职，并指责该公司及其主要竞争对手OpenAI的行为不负责任。曾先后在这两家公司担任研究员的Coxon在X网站上发帖称
更多Anthropic研究人员警告AI的危险，马斯克称这些担忧为“心理战”
公司内部人士担心技术的进步可能导致人类灭绝，而其他人则称之为“设局”。 在Anthropic一位前研究员就人工智能发表末日宣言的第二天，这家AI初创公司的更多研究人员和员工公开表示同意，并发布了自己的严厉警告。 作为回应，埃隆·马斯克和X（前身为Twitter）上的其他保守派人士称这些担忧的合唱是“设局”和“心理战”。