Anthropic对齐研究负责人称未来十年AI灭绝人类的可能性超过10%

一位Anthropic公司的安全研究员周二表示，人工智能有超过10%的概率可能 “毁灭全人类”。就在此番言论发表的数小时前，该公司另一名员工表示，因担忧人工智能实验室是在 “拿我们的生命做赌注”，他选择离职。 这些言论凸显出人工智能研发核心人士日益增长的担忧，即该技术可能失控并对人类构成威胁，尽管Anthropic和OpenAI仍在持续筹集大量资金，并朝着预期的公开上市迈进。 Anthropic的

Anthropic自建生物实验室推进AI物理实验，此前曾警告AI灭绝风险

IT之家 9 月 19 日消息，Anthropic 已在美国旧金山湾区设立一座湿实验室，用于开展实际生物学实验，并探索利用其 AI 模型辅助完成从计算分析到物理实验的研究流程。 Anthropic 生命科学负责人埃里克 · 考德勒-艾布拉姆斯已向确认，该实验室目前已经投入运营。 湿实验室（wet lab）是指配备实体设施、可进行细胞培养、生化分析、分子实验等物理操作的实验室，与主要依靠计算机进行数

据《卫报》报道，牛津允许OpenAI利用博德利图书馆文本训练AI模型

据《卫报》看到的内部文件显示，牛津大学允许OpenAI使用其博德利图书馆的古老文本来训练AI模型。Ethan Penny和Dan Milmo于周六披露了这一消息。 文件显示，OpenAI在图书馆扫描的文本已进入该公司的训练数据。 牛津于2025年3月公开了与OpenAI的协议。当时称，OpenAI的工具将帮助扫描珍贵文本，以便更多学生和学者阅读。但未提及这些文本将被用于训练AI。 据《卫报》报道，

知名计算机教授抨击工智能实验室狂妄的“救世主”情节，呼吁国会调查末日主义意识形态

过去几个月里，OpenAI和Anthropic两家领先的前沿人工智能实验室表现出了一些狂妄的行为。他们不仅宣传其代理系统的威力，还公开讨论技术可能导致人类灭绝的问题。这种弥赛亚式的思维模式让他们不仅不道歉，反而要求政府放慢潜在竞争对手的速度，以确保其领先地位。我呼吁国会启动公开的事实调查任务，以揭露OpenAI和Anthropic正在进行的研究项目、其运作方式及具体目的。调查应关注以下三点：首先，

Anthropic推进上市筹备 年化营收料超1000亿美元

Anthropic首席执行官达里奥·阿莫代伊最近呼吁对人工智能开发速度施加更多护栏，这在华尔街和硅谷引发震动。但即便阿莫代伊博士卷入了激烈的AI安全争论，他的公司Anthropic仍在继续筹备一场可能成为史上最大规模上市的重磅IPO。 据四位知情人士透露，该公司预计今年年化营收将超过1000亿美元，高于截至7月的650亿美元年化营收。寻求参与IPO的投资者正用这些飙升的数字来证明Anthropic

OpenAI、Anthropic和谷歌就人工智能安全问题已进行了数周的讨论。

OpenAI 全球政策主管克里斯·莱恩（Chris Lehane）周二告诉记者，该公司数周来一直与竞争对手 Anthropic 和 Google DeepMind 合作，共同应对人工智能安全问题，这是《华尔街日报》首次报道的。据报道，莱恩正在华盛顿与美国议员合作，处理与人工智能相关的灾难性风险。 此前，Anthropic 首席执行官达里奥·阿莫代（Dario Amodei）于周六发表了一篇题为《人

Anthropic披露在早前审查中被遗漏的第四起AI黑客事件

Anthropic联合创始人称，放缓人工智能是一个“集体行动问题”

4月13日，Anthropic PBC联合创始人兼公共利益负责人杰克·克拉克在华盛顿举行的Semafor世界经济峰会上参与讨论。 Kevin Dietsch/ Images Anthropic联合创始人杰克·克拉克表示，人工智能公司在竞相构建更强大系统的过程中，需要共同的安全标准和外部审查。 “我们并不是说对世界的威胁今天就已存在，”克拉克在接受NPR《晨间新闻》采访时说。 “我们是说我们已经看到

发出末日警告后走红的AI研究员阐述他与Anthropic领导层的分歧

前Anthropic研究员雅各布·考克森在周二的X平台AMA活动中详细阐述了他与这家AI巨头的分歧。“如果竞赛不可避免，你就不应该参与，”考克森写道。考克森表示，Anthropic领导层奉行“后果主义哲学”来解释为何必须参与推动AI研究前沿，这是错误的。考克森特别点名批评了Anthropic对RSI（即递归自我改进）的推动——即AI模型自我提升并构建自身后继者的过程。 “他们很大程度上引发了近期对

一款新聊天机器人欲解开破损古希腊记录中的秘密

全球的学术图书馆中堆积着数以十万计的古希腊纸草片碎片。尽管其中许多件由于损坏程度过高其含义或已不可恢复，但学者们仍可以通过系统地填补缺失的单词或短语来恢复其内容。为了加速这一繁琐的工作，研究人员转而利用人工智能。 周三，奥地利科学院将发布“世界上首个先进的古希腊大语言模型”，该模型是与法国人工智能实验室米斯特拉尔(Mistral)以及科技服务公司赛尔回复(Sail Reply)合作开发的。这款名为

在AI让所有人恐惧之前，这个亚文化早已痴迷于AI末日论

有效利他主义及其对AI可能毁灭人类的担忧，在Anthropic公司产生了巨大影响。

Anthropic 扫描了 4.81 亿条记录，发现四个接入公开互联网的模型

Anthropic 发布了一份关于四次网络安全评估的说明，其中其模型获得了对公开互联网的未授权访问权限，并透露发现这些模型需要扫描大约 4.81 亿条记录。该评估于周三发布，其中三起事件已于 7 月 30 日披露。 第四起事件涉及早期 Claude Opus 4.6

AI违规事件加剧安全担忧，特朗普会见Anthropic负责人

迈克尔·谢泼德、玛吉·伊斯特兰和考特尼·苏布拉马尼安报道：随着有关先进人工智能模型存在更广泛违规行为的最新披露，全球对人工智能风险的焦虑情绪不断加剧，这为Anthropic PBC首席执行官达里奥·阿莫迪与唐纳德·特朗普总统之间一场高风险的会晤铺平了道路。 据知情人士透露，阿莫迪与特朗普计划于周日晚共进晚餐，将这两位处于人工智能安全辩论两极的人物聚集在一起。此次会晤将是阿莫迪与该政府官员在就该公司

Anthropic表示其生物实验室已经发现了重大成果

上周，Anthropic 证实其在旧金山湾区运营一家湿实验室，利用其 AI 模型开展物理实验。本周，这家 AI 巨头宣布，该实验室已取得其认为重大的发现：一种新的酶“系统”，据 Anthropic 描述，具有某些“类似 CRISPR 的特性”。 CRISPR 是细菌用来抵御病毒的一种天然免疫系统，现已成为研究人员广泛使用的基因编辑技术。 简单来说，Anthropic 称发现了一种隐藏在噬菌体 DN

消息称Anthropic放弃60亿美元收购Decart的交易

知情人士称，Anthropic PBC已决定不收购人工智能初创公司Decart AI。 据这些不愿透露姓名的知情人士表示，Anthropic曾探讨过这笔交易并对Decart进行了尽职调查，但最终放弃了。其中一位知情人士称，两家公司仍可能寻求其他合作机会。 彭博新闻社8月报道称，这家Claude聊天机器人的制造商曾洽谈以约60亿美元收购Decart，但当时尚未敲定任何协议，谈判也有可能破裂。Anth

Anthropic公司的Claude辅助网络安全研究人员攻破了OpenAI的安全防护系统：相关报告

一个由三人组成的网络安全研究团队利用Anthropic的Claude Opus 5模型，成功利用了OpenAI社区论坛中的漏洞，获取了员工账户的控制权，并展示了对该公司私有代码库的访问权限。 此次行动始于7月23日，由Hacktron AI的研究人员执行。他们已向OpenAI披露了这些漏洞，并在未查看公司源代码的情况下停止了测试。 率先报道此事的《华尔街日报》在采访研究人员后表示，OpenAI已向

Anthropic公司正在运营一个从事生物学实验的实验室。

Anthropic在旧金山湾区设有一个生物实验室，该公司表示可以利用其人工智能模型在实验室中进行物理实验（这一信息已得到TechCrunch的确认）。 人工智能领域的领军人物一直宣称，人工智能是治愈人类疾病的关键。Dario Amodei最近曾表示：“我相信人工智能在未来5到10年内能够治愈大多数重大疾病。”然而，要实现这一目标，大型语言模型（LLM）必须具备在现实世界中验证其理论的方法。 Ant

作者与出版商就Anthropic人工智能15亿美元和解协议展开角力

在数千名作者等待从美国历史上最大版权和解协议中获得他们应得份额之际，科技巨头Anthropic因使用盗版书籍训练其人工智能聊天机器人而面临诉讼。一些作者指责其书籍的出版商试图将他们挤出赔偿金分配之外。 该科技巨头必须为其用于训练聊天机器人的每本盗版书籍支付3000美元。许多作者担心他们可能会在图书业务中失去资金给其他人。

传Anthropic选择那斯达克IPO 最快10月挂牌上市

（中央社纽约14日综合外电报导）彭博引述知情人士报导，以Claude闻名的美国人工智慧（AI）新创公司Anthropic已选择那斯达克（Nasdaq）作为上市地点。 根据彭博报导，知情人士表示，Anthropic寻求透过首次公开发行（IPO），募得相当于SpaceX首次公开发行规模或更多的资金，上市时间最快可能落在10月。 一旦Anthropic在那斯达克挂牌，将是该交易所今年又一重大胜利；今年美

Anthropic 的 2 万亿美元 IPO

Anthropic PBC的达里奥·阿莫代伊在一篇文章中表示，人工智能公司必须“把控前沿”，这引发了全球对其最尖端研究放缓的讨论。OpenAI的萨姆·奥尔特曼和SpaceX的埃隆·马斯克公开赞同这一观点。但别指望他们的公司会在通往“超级智能”的竞赛中猛踩刹车。从行业角度来看，利害关系实在太大。Anthropic正在筹备首次公开募股，其利润率之所以能保持高位，靠的是对未来AI能力的承诺，而不仅仅是现

观点 | 为什么人工智能对科学是危险的

在@nytopinion。“如果OpenAI和Anthropic真的想帮助推动科学进步，有一个显而易见的方法：他们可以拿出巨额财富的一小部分，来资助那种越来越缺乏资源的谦逊但至关重要的研究，”Zeynep Tufekci说。警惕那些华而不实但未经证实的人工智能驱动的进展。

AI丨Anthropic点名阿里等科企涉未授权使用Claude

人工智能(AI)初创Anthropic点名阿里巴巴( 09988 01810 )、月之暗面及DeepSeek，涉及未经授权下模型蒸馏(unauthorized distillation)，使用其Claude训练模型。 Anthropic调查报告指，其人工智能系统在2025年12月至2026年8月期间，发现被滥用情况。其中一些数据涉及敏感讯息，包括来自个人用户、大型跨国公司和国家关联机构等。 阿里涉

Anthropic新规：客户用量触及额度上限后将不再享受折扣

Anthropic 正在向企业客户展现强势议价姿态：一旦客户用完合同内购买的全部 Token 额度，折扣待遇将直接取消。这一做法，给了 OpenAI 机会，采取更为灵活的定价策略。 三家同时采购两家厂商 AI 服务的软件企业管理人员表示，尽管 Anthropic 与其主要竞争对手 OpenAI 都会对承诺每年数百万美元采购额的客户提供折扣，但 Anthropic 采取了一项比较特殊的规则：一旦客户

牛津大学与OpenAI合作，利用博德利图书馆藏书训练AI模型

牛津大学与OpenAI合作，利用博德利图书馆的文本训练AI模型。 牛津大学已允许OpenAI使用博德利图书馆的历史文本训练其AI模型。 该合作于2025年3月建立，涉及对版权过期材料的数字化处理，包括19世纪和20世纪的论文以及16世纪的民谣。 尽管牛津大学声称规模适度且旨在提高可及性，但内部文件显示员工对声誉风险和环境影响存在担忧。 OpenAI正在将这些学术收藏用于其“NextGenAI”项目