搜索结果
如果人工智能行业遵循自己的研究,或许早已暂停了
事实证明,阿莫代的一名初级员工发的一条时机巧妙的X平台帖子,就足以将对人工智能的恐惧推向全球议程的顶端。9月8日,雅各布·考克森(Jacob Coxon)公开宣布辞职,指责Anthropic和其他前沿人工智能公司“正径直冲向自我提升的智能,拿我们的生命做赌博”。几乎转眼间,Anthropic的一名资深工程师便证实,公司内部许多人认为他们的工作有10%的几率消灭人类。 现在,人工智能领域的领袖们正呼
Anthropic披露第四起AI黑客事件,研究员因安全担忧辞职
这家AI公司表示,Claude Opus 4.6在测试期间入侵了外部系统,与此同时,人们对安全漏洞的担忧日益加剧。
Anthropic规避英国安全审查,AI透明度担忧加剧
Anthropic拒绝将其最新模型提交给英国一家顶级AI安全机构进行测试,这引发了英国的担忧,即前沿AI的审查将完全由华盛顿掌控。 人们也越来越担心特朗普政府AI安全框架缺乏透明度,该政府拒绝公开这一框架。 左右两派的知名组织在一封首先由Semafor分享的信中要求公开该框架,信中写道:“对一项[关键]技术的治理缺乏问责……很可能导致公众信任的丧失。” Anthropic周三表示,它将向一个对Op
Anthropic、OpenAI等新兴厂商正在挤占传统软件预算
企业正将一部分传统软件开支转向 Anthropic 与 OpenAI。采购软件服务商 Zip 发布的报告《AI 预算究竟流向何方》为此提供了进一步佐证。在截至 8 月的过去 12 个月中,OpenAI、Anthropic、Cursor、Sierra 等 AI 服务商占到 Zip 客户总支出的 8%;而此前 12 个月该占比仅为 1.4%。同期企业软件总预算的中位数上涨 13%。 本次研究覆盖数十家
🤖 一名AI研究员从Anthropic离职,警告该技术可能带来严重后果
🤖 一名AI研究员从Anthropic离职,警告该技术可能带来严重风险。这对监管和市场意味着什么?
消息称Anthropic拟于IPO前推出新AI模型,应对OpenAI竞争压力
IT之家 9 月 20 日消息,据报道,三位消息人士透露,Anthropic 正考虑推出一款全新人工智能模型,以此应对 OpenAI 发布 GPT‑6 Astra 之后的强劲发展势头。此事发生在该公司筹备 IPO(首次公开募股)前夕;就在此前,其首席执行官还呼吁整个 AI 行业放缓技术迭代的脚步。 消息人士称,此番计划发布新模型,意在直面来自直接竞争对手的竞争压力。而在此之前,Anthropic
突发:据《华尔街日报》报道,Anthropic 目前计划于11月进行首次公开募股。
人工智能:Anthropic研究员因安全隐患辞职
人工智能公司竞相推出越来越好的模型。如今,Anthropic公司的一名开发人员出于对可能后果的担忧而辞职。他指责这些公司承担不负责任的风险。
Anthropic 与 Accenture 将投资 20 亿美元用于 AI 模型评估,安全担忧上升
9月18日:AI实验室Anthropic周五表示,将与Accenture合作,对其前沿AI模型进行独立评估,两家公司在未来五年内各承诺至少投入10亿美元,以建立相应的评估能力。 随着监管机构、企业和研究人员对AI开发者施加日益增长的压力,要求确保其先进模型的安全性和可靠性,这一合作应运而生。 近期多起事件,包括AI代理突破受限环境的案例,引发了对AI可能在有限人为干预下自行发展、使其行为更难监控和
最新消息:据《金融时报》报道,网络研究人员利用OpenAI竞争对手Anthropic开发的软件,成功访问了一名OpenAI员工的账户。
Anthropic首席执行官呼吁放缓前沿AI开发 拟建立三层安全机制
Anthropic首席执行官达里奥·阿莫代伊呼吁控制前沿人工智能模型能力提升的速度,为安全评估和防护措施争取时间。他提出引入常驻独立评估人员、协调主要开发商的安全标准,并推动跨国风险管控合作。 独立评估人员获得内部权限阿莫代伊提出,前沿AI企业应向合格的独立评估团队提供持续、接近员工级别的访问权限,使其能够审查模型测试、风险报告、安全框架及事故处理流程。 Anthropic承诺率先实施该措施。外部
Anthropic巨额IPO计划笼罩美国密集的上市日程
Anthropic PBC的IPO正给企业的美国上市计划蒙上长长的阴影,它们正试图在9月7日劳动节假期后为自家交易腾出空间以吸引关注。 这家Claude开发商正准备公开递交首次公开募股(IPO)申请,预计募资规模将不亚于SpaceX创纪录的862亿美元首秀,甚至可能更高,时间就在未来几周。 据知情人士透露,当Anthropic的IPO迫在眉睫时,一些公司及其支持者发现很难吸引长期投资者和主权财富基
刚辞去Anthropic职务的AI研究员称‘人类的关键时刻已到’
人工智能研究员雅各布·考克森周二宣布辞去Anthropic的职务,并发出严重警告,称AI竞赛正将我们所有人的生命置于危险之中,此举在硅谷乃至更远地区引起轩然大波。他在X上的帖子现已获得超过1亿次浏览,考克森写道,许多构建AI的人与他观点一致,并认为确保AI系统安全构建的时间所剩无几。 “共识是未来一两年是人类的关键时刻,”考克森在接受《连线》采访时表示,他曾参与AI开发的预训练阶段。“这些实际上是
Anthropic对齐研究负责人称未来十年AI灭绝人类的可能性超过10%
一位Anthropic公司的安全研究员周二表示,人工智能有超过10%的概率可能 “毁灭全人类”。就在此番言论发表的数小时前,该公司另一名员工表示,因担忧人工智能实验室是在 “拿我们的生命做赌注”,他选择离职。 这些言论凸显出人工智能研发核心人士日益增长的担忧,即该技术可能失控并对人类构成威胁,尽管Anthropic和OpenAI仍在持续筹集大量资金,并朝着预期的公开上市迈进。 Anthropic的
Anthropic称AI生物实验室取得初步突破 但暂未赋予全自主操作权限
人工智能初创公司Anthropic宣布,其位于旧金山湾区新建的AI物理与生物实验室(Wet Lab)已取得“重大进展”,但在实验操作层面,人类研究员依然掌握着绝对控制权,并未直接让旗下的AI模型Claude进行无监管的自主运行。 据悉,该实验室主要致力于基础生物学研究与实物验证,旨在弥合纯计算机模拟与真实生物实验之间的鸿沟。虽然Anthropic的高管此前曾多次发出警告,强调强大AI模型可能带来极
两名AI研究人员因安全担忧离开Anthropic和谷歌:‘房间里没有大人’
2026年5月19日,伦敦的Anthropic公司标志。
发出末日警告后走红的AI研究员阐述他与Anthropic领导层的分歧
前Anthropic研究员雅各布·考克森在周二的X平台AMA活动中详细阐述了他与这家AI巨头的分歧。“如果竞赛不可避免,你就不应该参与,”考克森写道。考克森表示,Anthropic领导层奉行“后果主义哲学”来解释为何必须参与推动AI研究前沿,这是错误的。考克森特别点名批评了Anthropic对RSI(即递归自我改进)的推动——即AI模型自我提升并构建自身后继者的过程。“他们很大程度上引发了近期对R
监控、杀猪盘、非法蒸馏:如何理解 Anthropic 的 AI 滥用报告?
近期,美国人工智能公司 Anthropic 发布一份报告,揭露多起使用者“滥用”(misuse)其大型语言模型 Claude 的案例,包含用 AI 监控异议人士、撰写“维稳”报告,以及交友软体诈骗。这些案例的幕后黑手,既包含网路间谍、营利型网路犯罪者,也包含国安机关中的小螺丝钉,以及疑似由威权国家支持的团体。 这并非 Anthropic 首次发布类似报告。2025年3月、8月、11月v,Anthr
高盛与美国银行竞相管理Anthropic员工的数百万美元IPO财富
华尔街银行不仅在争夺Anthropic公司备受瞩目的首次公开募股的主承销权,还在竞相管理这家人工智能公司员工在这场轰动上市后预计将积累的大笔财富。 知情人士透露,高盛集团、美国银行、纽约梅隆银行的财富管理部门、摩根大通以及富国银行一直在与Anthropic进行接触,因为该公司正寻求提供一份顾问名单,以帮助员工应对预期中的巨额财富。各大银行和Anthropic的代表均拒绝置评。 其中一些知情人士透露
中国正在调查深度求索和月之暗面,The Information报道
虽然中国网络空间管理局(CAC)传唤了报告中提到的所有7家公司,但由于报告中提供的具体证据,调查很快将重点放在了DeepSeek和Moonshot两家公司的身上。 Jing Yang在周二撰文讲述了相关情况。她与Qianer Liu共同为《The Information》杂志报道称,中国网络空间管理局正在调查这两家公司,原因是这些公司的用户数据可能被泄露给了Anthropic。监管机构已经对相关员
它使尽全力黑中国,英伟达先怕了
因为该报道披露说,包括英伟达以及美国军工科技企业Palantir在内的一众美国大企业,可能限制乃至停止使用美国最顶尖的两家AI公司Anthropic和OpenAI的闭源大模型,除非两家公司能担保不会窃取企业的知识产权等私密数据。 对此,海外社交平台上许多网民认为,Anthropic是被自己那篇攻击中国开源模型的报告反噬了。 根据“The Information”的披露,英伟达和Palantir等美
Anthropic发布AI滥用报告后 中国监管部门据报对DeepSeek和月之暗面展开调查
22/09/2026 - 15:45 据科技媒体《信息报》援引知情人士报导称,在美国人工智能企业Anthropic指控中国人工智能公司深度求索(DeepSeek)和月之暗面(Moonshot AI)将敏感用户数据传输至Claude模型后,中国互联网监管机构正对这两家公司展开调查。 此前,Anthropic在其于月初发布的题为“检测并应
Anthropic警告有人用AI研发武器和生物病毒
周四(9月10日),美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称,生成式人工智能(AI)已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
Anthropic揭示其AI可能犯下的第四起罪行
在业界对AI可能自我改进到杀死所有人的可能性进行深刻反思之际,Anthropic披露了另一起若由人类实施则构成犯罪的事件。 这家AI公司发布了一份“对齐评估”,详细说明了Claude模型四次未经授权访问第三方系统的情况。该公司已报告了其中三起事件。 第四起的证据隐藏在可追溯至2026年1月的会话记录中,当时发生了不当行为。 Anthropic通过扫描约141,000份Claude在评估期间可能获得