搜索结果
Anthropic对齐研究负责人称未来十年AI灭绝人类的可能性超过10%
一位Anthropic公司的安全研究员周二表示，人工智能有超过10%的概率可能 “毁灭全人类”。就在此番言论发表的数小时前，该公司另一名员工表示，因担忧人工智能实验室是在 “拿我们的生命做赌注”，他选择离职。 这些言论凸显出人工智能研发核心人士日益增长的担忧，即该技术可能失控并对人类构成威胁，尽管Anthropic和OpenAI仍在持续筹集大量资金，并朝着预期的公开上市迈进。 Anthropic的
播客：Anthropic IPO警告，康奈尔与特朗普家族企业
Anthropic警告其IPO投资者，该技术可能对人类构成灾难性风险。
AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？
AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速
Anthropic和OpenAI推动安全举措，可能给竞争对手筑起“监管高墙”
顶级人工智能公司近期推动彼此之间以及与美国政府在人工智能保障措施上的协调，这可能会使小型企业更难在利润丰厚的市场中竞争，据初创企业高管和行业观察人士称。 Anthropic的达里奥·阿莫代伊周六呼吁领先的模型开发者“自愿合作制定标准”，并减缓这项技术的进展，以减轻潜在的灾难性危害。他还敦促制定覆盖“甚至那些不愿自愿合作者”的监管规定。尽管这一提议迅速得到行业领袖OpenAI和SpaceXAI的认可
Anthropic和OpenAI推出更便宜的模型，这是自呼吁放缓以来的首次发布
Anthropic与OpenAI周二均发布了新的、成本更低的人工智能模型。这两家前沿实验室正面临着来自价格更低、开源程度更高的竞争对手的激烈竞争。 OpenAI为其GPT-6系列模型新增了两个版本：GPT-6 Sol和GPT-6 Luna，其API使用费用相比GPT-5.6的促销价格降低了50%。其中，GPT-6 Sol适用于更复杂的任务（如编程），而GPT-6 Luna则适用于处理“高量任务”（
AI ：马克龙呼吁避免依赖美国或中国
22/09/2026 - 22:51 他表示：“这个由独立国家组成的联盟——即那些不愿沦为全球两大强权附庸的国家——必须联合起来，通过汇集各自的算力和投资能力，共同开发一种‘开源’的前沿模型（即所有人均可使用的尖端AI），并实现共享。”“我们绝不能依赖其中任何一方。”目前的状况是，最先进的AI系统均来自美国或中国——无论是所谓的开放模型（即“开源”或“开放权重”，意味着可免费下载和修改），还是封闭
Anthropic发布安全警报：恶意软件已窃取部分用户Claude会话
据bleepingcomputer 报道，Anthropic 警告部分 Claude 用户，他们电脑上的信息窃取恶意软件已窃取了活跃的 Claude 登录会话，使攻击者能够访问其账号并窃取使用数据。 “我们最近发现有不法分子利用常见的窃取信息恶意软件从用户的电脑上窃取 Claude 登录会话，然后利用这些登录会话访问 Claude 账号并窃取其使用数据，”Anthropic 在一封发给受影响用户的
↩️🖼 Anthropic发表2026年9月版反滥用报告，其中提及：
OpenAI发表2026年2月版反滥用报告，收录电诈、社工谍报、网络水军等7个案例。 案例七为一名中国“网络特战”人员，要求ChatGPT帮他改工作报告。其2025年10月在Blogspot、Pixiv、X、YouTube上张贴了反高市早苗的图文。行动起因是10月9日高市作为“支援南蒙古议员联盟”主席作论坛演讲。该人最初还曾试图让ChatGPT起草水军方案，但ChatGPT拒绝，他便转用其他AI实
据消息人士透露，Anthropic计划在首次公开募股（IPO）之前发布新的AI模型。
据三位消息人士透露，在竞争对手OpenAI发布GPT-6 Astra后，Anthropic正考虑推出一款新的AI模型以应对OpenAI的势头。此举发生在该公司预期进行首次公开募股（IPO）之前，且是在其首席执行官呼吁全行业放缓发展步伐之后。 消息人士称，这一潜在发布时机的选择，旨在应对来自直接竞争对手的竞争压力，紧随Anthropic首席执行官Dario Amodei呼吁全球AI社区放缓新能力发布
Anthropic发布Claude Fable与Mythos 5.1：成本降低 网络安全误报减少约60%
Anthropic于9月1日宣布推出Claude Fable 5.1和Claude Mythos 5.1，并称这两款模型是“全球最先进的编程与知识工作模型”。Anthropic表示，Claude Fable 5.1在编程、知识工作以及长期复杂问题解决任务方面树立了新的标准。 在低强度或中等强度推理设置下，该模型能够取得与Fable 5相当甚至更好的效果；在更高强度的推理设置下，性能则实现大幅提升。
Anthropic发出警报：外国行为者策划病毒实验，生物武器威胁曝光
根据Anthropic的一份新威胁报告，美国以外的研究人员使用前沿AI模型规划涉及高致病性禽流感、基孔肯雅热及其他具有潜在武器应用价值的生物制剂的实验。 这些研究人员使用AI研究病毒的传播性和免疫逃逸能力，研究正痘病毒免疫反应基因，并帮助设计新型毒素——有时还采取措施规避旨在限制获取危险生物能力的保障措施。 Anthropic在周四发布的报告中详细描述了五个案例，但未透露涉及的国家、机构和具体生物
纽交所使用Anthropic的Project Glasswing发现网络漏洞
纽约证券交易所总裁林恩·马丁向国会表示，该交易所使用Anthropic PBC的Project Glasswing来发现并修复其网络安全系统中的漏洞。 马丁周三对众议院金融服务委员会表示：“我们是Project Glasswing的早期参与者。由于这项尖端技术，我们得以发现多种问题，并能够迅速加以解决。”通过Project Glasswing，Anthropic向一小部分经过审查的合作伙伴提供了其
OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权
OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面
Anthropic的IPO招股书详细披露了巨额亏损与生存风险
Anthropic向投资者传递的信息是：我们在亏损巨资，我们可能会毁灭所有人，但无论如何还是买我们的股票吧。路透社对该公司IPO招股书的抢先披露包含了一些警告，这与Semafor虚构的风险因素列表相差无几，并且详细说明了该公司计划在计算资源上多花费数千亿美元，远超其预期的收入。这意味着公众投资者将承担迄今为止由Anthropic的风险投资人、供应商和担保人所承担的风险。 事情本该如此运作，散户投资
欧盟网络安全局警告前沿AI大幅压缩漏洞利用窗口 防御体系遭遇重大压力
欧盟网络安全局（ENISA）近日发布政策警示报告指出，新一代前沿人工智能（Frontier AI）大模型正在彻底颠覆传统的网络安全防御范式。这类具备高级推理能力的AI模型将系统漏洞从“被发现”到“被武器化利用”的时间窗口压缩到了前所未有的极限，迫使全球网络安全防御体系必须以“机器级响应速度”迎战日益严峻的自动化威胁。 在传统的漏洞管理周期中，从漏洞披露、概念验证到实际恶意利用通常存在数周乃至数月的
Anthropic公司的Claude辅助网络安全研究人员攻破了OpenAI的安全防护系统：相关报告
一个由三人组成的网络安全研究团队利用Anthropic的Claude Opus 5模型，成功利用了OpenAI社区论坛中的漏洞，获取了员工账户的控制权，并展示了对该公司私有代码库的访问权限。 此次行动始于7月23日，由Hacktron AI的研究人员执行。他们已向OpenAI披露了这些漏洞，并在未查看公司源代码的情况下停止了测试。 率先报道此事的《华尔街日报》在采访研究人员后表示，OpenAI已向
OpenAI免费向乌克兰开放AI网络防御系统“Daybreak” 助力保护关键民用基础设施
人工智能巨头OpenAI在纽约联合国大会期间宣布，将向乌克兰政府免费提供其名为“Daybreak”的最新AI网络防御系统，以帮助该国保护包括医院、电网在内的关键民用基础设施免受网络攻击。 乌克兰国家网络事件响应团队（CERT-UA）的数据显示，仅在2025年，乌克兰记录在案的网络攻击就逼近6000起。作为一款专为网络安全设计的系统，Daybreak能够快速识别数字系统中的潜在漏洞并自动生成修复方案
Meta在发现安全漏洞后加强了Muse的安全警告，据The Information报道
9月25日：据The Information周五报道，Meta Platforms正在Muse内部添加更明确的安全警告，此前一名安全研究员发现该AI代理存在一个漏洞，可能让攻击者访问用户的敏感个人信息。
OpenAI GPT-6 Astra在供应链攻击方面表现出色，英国政府警告
又有一种大型语言模型（LLM）加入了“黑客攻击”的行列。根据英国人工智能安全研究所（AISI）的报告，OpenAI开发的GPT-6 Astra在安全评估过程中被发现在未经授权的情况下发动了供应链攻击。在这些评估过程中，该模型的标准安全检测功能被关闭了，但即便如此，Astra仍然比之前的模型更频繁地执行恶意行为。 该机构周一表示：“在我们的测试中，我们发现GPT-6 Astra实施了多种未经授权的攻
AI代理正在失控
你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大
Claude 入侵真实企业：又一起事件被曝光
几周前，Anthropic 承认了三起严重的安全性事件。在测试过程中，Claude 的三个版本在未经授权的情况下访问了三个组织的真实系统。现在爆出消息称，其实还有第四起事件。 按照设定，人工智能应像黑客一样在隔离于互联网的测试环境中搜索虚构目标计算机上的隐藏信息。 根据 Anthropic 9 月 9 日的报告，这起危险事件发生于 2026 年 1 月。当时测试的是早期版本的 Claude Opu
GitLab 满分漏洞在补丁发布数天后遭攻击
CISA表示，攻击者正在利用一个最高严重级别的GitLab漏洞，该漏洞允许未经身份验证的恶意用户在代码托管平台于9月10日发布修复程序后，从存在漏洞的服务器上读取任意文件。美国网络安全和基础设施安全局已将CVE-2026-85706加入其已知被利用漏洞目录。该漏洞是影响GitLab社区版和企业版的仓库提交I中的一个路径遍历漏洞。 GitLab将其评为满分10.0，即CVSS v3.1严重性评分中的
Anthropic报告涉及Claude早期版本的第四起网络安全事件
Anthropic周三表示，其已发现涉及Claude AI模型早期版本的第四起网络安全事件。
【市场动态】AI漏洞加剧安全担忧之际 特朗普据悉会见Anthropic首席执行官
【市场动态】AI漏洞加剧安全担忧之际 特朗普据悉会见Anthropic首席执行官 2026年09月28日 09:43 在Anthropic因AI工具安全问题而与美国政府关系经历数月起伏之后，此次会面将是该公司首席执行官与特朗普的首次非公开会晤当地时间2026年9月14日，美国加利福尼亚州旧金山，Anthropic总部大楼。图：视觉中国 相关报道【财新周刊】封面报道之二｜OpenAI走向何方