搜索结果
更多Anthropic研究人员警告AI的危险，马斯克称这些担忧为“心理战”
公司内部人士担心技术的进步可能导致人类灭绝，而其他人则称之为“设局”。 在Anthropic一位前研究员就人工智能发表末日宣言的第二天，这家AI初创公司的更多研究人员和员工公开表示同意，并发布了自己的严厉警告。 作为回应，埃隆·马斯克和X（前身为Twitter）上的其他保守派人士称这些担忧的合唱是“设局”和“心理战”。
Anthropic 研究人员警告：失控的 AI 可能会毁灭人类
多位 Anthropic 的现任和前任研究人员对 AI 发出了严厉警告，暗示他们正在开发的技术可能在不久的将来毁灭人类。 曾在 Anthropic 和 OpenAI 担任研究员的雅各布·考克斯森（Jacob Coxon）周二指出，这两家公司在竞相研发超级智能的过程中都没有表现得负责任，并指责这些 AI 公司……
Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？
“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」 的确如此，
Anthropic披露其挫败了利用AI驱动的生物武器研究
AI初创公司Anthropic披露，2026年期间，该公司挫败了多起科学家试图利用其AI模型进行可能促进生物武器研发的尝试。 该公司表示，由于无法区分正当的科学探索与恶意企图，出于谨慎考虑以避免严重后果，公司决定终止此类研究工作。 Anthropic威胁情报主管Jacob Klein（雅各布·克莱恩）强调了这类威胁的复杂性，而战略风险委员会（Council on Strategic Risks）的
前研究员批评Anthropic：挑起竞赛 逼得OpenAI砍副业
据《商业内幕》报道，前Anthropic研究员雅各布·考克森(Jacob Coxon)周二在X平台上的一场问答活动中，详细阐述了他与这家AI巨头之间的分歧。考克森此前因其离职警告走红，他认为AI未来可能毁灭人类。 考克森表示，Anthropic领导层使用“结果主义哲学”来解释为何必须参与推动AI研究前沿，这是错误的。“如果这场竞赛不可避免，你就不应该参与其中。”考克森写道。 考克森特别点名批评了A
Jaan Tallinn，Anthropic最早的投资者之一，担心在人工智能时代“生存”问题。
贾安·塔林（Jaan Tallinn）上周在纽约联合国大会度过，这是他一年来长途跋涉的最新一站，旨在向企业家、投资者、政策制定者以及所有愿意倾听的人传达：人工智能可能终结人类。 作为Anthropic最早的投资者之一，塔林预计在未来几个月将从这家人工智能公司的预期首次公开募股（IPO）中赚取数十亿美元。对人工智能的担忧促使他进行投资。 在二月份从新德里的人工智能峰会前往巴黎的伦理人工智能会议的行程
这些末日论者对AI发展产生了巨大影响
一个由末日论者组成的紧密小圈子一直在默默地影响着人工智能（AI）行业的发展。 最近，Anthropic公司的一名研究人员辞职，这一事件让公众意识到失控的AI发展可能会终结人类。 然而，一些被称为‘末日论者’的AI安全领域专家多年来一直关注这一灾难性风险。 他们曾是OpenAI和Anthropic等大型实验室的早期员工。 如今，在Anthropic准备进行大规模公开募股、试图向投资者传递积极信号的同
Anthropic和埃森哲豪掷20亿美元搞AI安全评估
IT之家 9 月 20 日消息，人工智能实验室 Anthropic 于当地时间周五宣布，将与埃森哲开展合作，针对自身前沿人工智能模型开展独立评估；两家企业承诺，未来五年各自至少投入 10 现汇率约合 67.18 亿元人民币），搭建开展该项工作所需的配套能力。 在这项合作落地之际，AI 研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力，各方都要求企业保证高级模型具备安全性与可靠性。 近
如何给世界末日定价？
本周，存在主义AI恐惧情绪突破了防线。 一名Anthropic的研究员在辞职时警告称，前沿实验室是在“拿我们的生命赌博”。 他的同事也附和道，AI导致人类灭绝的概率超过10%。 连雪儿·克劳（Sheryl Crow）也加入了这场讨论。 我们Semafor商业频道虽然不是技术专家，但我们懂IPO，“我们可能会导致文明毁灭”是一个相当惊人的风险因素。 我非常好奇，正在处理Anthropic上市的Wil
发出末日警告后走红的AI研究员阐述他与Anthropic领导层的分歧
前Anthropic研究员雅各布·考克森在周二的X平台AMA活动中详细阐述了他与这家AI巨头的分歧。“如果竞赛不可避免，你就不应该参与，”考克森写道。考克森表示，Anthropic领导层奉行“后果主义哲学”来解释为何必须参与推动AI研究前沿，这是错误的。考克森特别点名批评了Anthropic对RSI（即递归自我改进）的推动——即AI模型自我提升并构建自身后继者的过程。 “他们很大程度上引发了近期对
Anthropic联合创始人称，放缓人工智能是一个“集体行动问题”
4月13日，Anthropic PBC联合创始人兼公共利益负责人杰克·克拉克在华盛顿举行的Semafor世界经济峰会上参与讨论。 Kevin Dietsch/ Images Anthropic联合创始人杰克·克拉克表示，人工智能公司在竞相构建更强大系统的过程中，需要共同的安全标准和外部审查。 “我们并不是说对世界的威胁今天就已存在，”克拉克在接受NPR《晨间新闻》采访时说。 “我们是说我们已经看到
CNBC每日开盘：人工智能的创造者敲响警钟——而其他人仍在继续建设基础设施
今天你需要了解的重要信息：随着有关人工智能模型行为异常的报道不断出现，为这些模型提供技术支持的公司终于提出了解决方案——他们开发了一个平台，允许人工智能开发者为相关系统设置安全防护机制，以防止它们“失控”或违反预设的规则。 Nvidia于周一推出的“Open Agent Safety Platform”就是一个这样的平台。该平台能够确保人工智能系统仅能够访问完成其任务所需的数据和功能。 Nvidi
硅谷加剧对人工智能生存风险的警告
多年来，硅谷的一些领军人物一直警告说，人工智能可能对人类构成生存威胁，即便他们同时也在推动这项技术的发展。本周，Anthropic 一名研究人员的备受瞩目的辞职将这一话题带入了主流视野。Jacob Coxon，一名普通员工，辞去了工作，并指责他的两位前雇主——Anthropic 和 OpenAI——通过“竞相开发超级智能 AI”而“拿我们的生命赌博”。 Coxon 表示，开发 AI 的人相信它可能
马斯克：我早已为人工智能风险多次敲响警钟
人们早就见惯埃隆・马斯克放出论断，而这一次，自己一直都是对的。这位太空探索技术公司（SpaceX）与特斯拉的首席执行官，对 Anthropic 公司 CEO 达里奥・阿莫代伊发布的长文表示赞同。 具备递归自我迭代能力的人工智能，会快到超出人类理解与管控的范围；即便要研发这类技术，也必须万分谨慎。 为防范未来风险，前沿 AI 企业应当在内部派驻第三方评估人员，用来检测 AI 模型，监督实验室落实安全
Anthropic自建生物实验室推进AI物理实验，此前曾警告AI灭绝风险
IT之家 9 月 19 日消息，Anthropic 已在美国旧金山湾区设立一座湿实验室，用于开展实际生物学实验，并探索利用其 AI 模型辅助完成从计算分析到物理实验的研究流程。 Anthropic 生命科学负责人埃里克 · 考德勒-艾布拉姆斯已向确认，该实验室目前已经投入运营。 湿实验室（wet lab）是指配备实体设施、可进行细胞培养、生化分析、分子实验等物理操作的实验室，与主要依靠计算机进行数
Anthropic与OpenAI高管敦促对自我改进型人工智能加强监管
作者：Seth Fiegerman Anthropic PBC、OpenAI、Meta Platforms Inc.和Microsoft Corp.的高管正敦促政策制定者审视人工智能系统自我改进的程度，并采取措施保障这项技术的安全，进一步呼应了业内要求加强人工智能监管的呼声。 在一篇新论文中，20多名人工智能行业领袖和研究员表达担忧称，利用人工智能帮助自动开发未来模型这一新兴做法，终有一天可能推动
人工智能带来的最大威胁是什么，你应该担心吗？
Anthropic 和 OpenAI 的首席执行官发出了“严重”风险警告。 近期，人工智能行业中最具影响力的几位高管警告称，这项技术构成严重威胁，并发表了一系列声明，呼吁放缓人工智能的发展。 Anthropic 首席执行官 Dario Amodei 发表了一篇博文，提醒公众注意“严重”风险。竞争对手 OpenAI 的首席执行官 Sam Altman 在 X 上发文承认，人工智能可能“非常糟糕”。x
Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对
【财新网】AI安全焦虑发酵，美国科技界和政界多方发声。月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代发布阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。” 另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件
Anthropic称AI生物实验室取得初步突破 但暂未赋予全自主操作权限
人工智能初创公司Anthropic宣布，其位于旧金山湾区新建的AI物理与生物实验室（Wet Lab）已取得“重大进展”，但在实验操作层面，人类研究员依然掌握着绝对控制权，并未直接让旗下的AI模型Claude进行无监管的自主运行。 据悉，该实验室主要致力于基础生物学研究与实物验证，旨在弥合纯计算机模拟与真实生物实验之间的鸿沟。虽然Anthropic的高管此前曾多次发出警告，强调强大AI模型可能带来极
Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛
9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼
顶尖人工智能先驱重申Anthropic研究员关于人类灭绝的警告
顶尖人工智能先驱们支持了一位Anthropic研究员关于人类可能灭绝的警告。 保罗·克里斯蒂亚诺（Paul Christiano）曾与未来的Anthropic创始人达里奥·阿莫代伊（Dario Amodei）共同撰写了一篇关于人工智能安全具有影响力的2016年论文，并且长期以来一直认为该技术将相对平稳地发展并变得安全。 他现在表示，他看到了“在极短期内出现灾难性和不可逆转的失控”的“重大风险”。
存在主义恐惧如何影响关于人工智能的争论
一些专家担心，激烈的言论使公司难以承担责任，并阻碍了应对环境影响和失业的尝试。当前一轮对人工智能的恐慌是基于这样一种信念：该技术已经脱离了人类的控制，在最近的几起事件中按照自己的意愿行事。对于一些幻灭的人工智能研究人员以及领先人工智能公司的一些高级员工来说，这是人类文明面临真正威胁的早期迹象。 但该领域的其他专家正在反驳，声称此类言论允许公司回避对其技术对现实世界影响的责任。批评者认为人工智能对环
Anthropic首席执行官呼吁放缓前沿AI开发 拟建立三层安全机制
Anthropic首席执行官达里奥·阿莫代伊呼吁控制前沿人工智能模型能力提升的速度，为安全评估和防护措施争取时间。他提出引入常驻独立评估人员、协调主要开发商的安全标准，并推动跨国风险管控合作。 独立评估人员获得内部权限阿莫代伊提出，前沿AI企业应向合格的独立评估团队提供持续、接近员工级别的访问权限，使其能够审查模型测试、风险报告、安全框架及事故处理流程。 Anthropic承诺率先实施该措施。外部
为什么人工智能领袖呼吁放缓？
过去一周，人工智能领域发生了引人瞩目的事件。上周二，一名研究人员从Anthropic辞职，称人工智能公司“正一路冲向可自我改进的超级智能，拿我们的生命当赌注”。一名Anthropic的在职员工对此表示认同，称他认为人工智能在未来10年内导致人类灭绝的可能性超过10%。 随后在周六，Anthropic首席执行官达里奥·阿莫代伊发表文章，呼吁放缓人工智能的发展，以便安全措施能够跟上技术的步伐。他的竞争