搜索结果
Anthropic研究员Jacob Coxon因不满AI军备竞赛而辞职
Jacob Coxon在X上宣布辞去Anthropic职务。他表示自己过去三年分别在OpenAI和Anthropic从事预训练研究，但认为两家公司都没有以负责任的方式推进AI开发，反而在“直奔自我改进型超级智能”，并将人类安全置于赌局之中。 Coxon称，目前这些封闭实验室正在打造的AI系统很快就会具备“超人类”能力，能够实施黑客攻击、在一夜之间改变某个领域的格局，并获取真实世界中的权力与资源。他
报告：AI失控个案创纪录 监察组织促立法强制通报及干预
（伦敦30日综合电）英国《卫报》引述监察数据报道，人工智能失控、欺骗人类及无视指令的个案近来创下新高，案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报，并引入紧急权力限制AI服务。 获英国政府AI安全研究所（AISI）资助的“失控观察站”组织透过平台X的用户通报，监察AI失控的真实个案，并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗，今年则已录得逾1600宗个案，当中包
新诉讼指控Anthropic、OpenAI等四巨头达成非法协议放缓AI开发
该诉讼于周五向美国加利福尼亚北区联邦地区法院提起。诉状认为，这些头部 AI 企业达成协同减速共识的行为涉嫌违反反垄断法，此举还会降低消费者购买 AI 付费订阅服务所能获得的价值。 诉状称，这场协同行动主要发生在 9 月 12 日。当日 Anthropic 首席执行官达里奥・阿莫代发布一篇文章，呼吁全行业开展合作，放缓技术迭代速度，把重心放在强化安全措施上。 大量失控 AI 智能体有可能仅用短短六个
AI、谷歌因协调AI放缓的呼吁被指控勾结
LoopDNS资讯播报: 中国官媒批Anthropic等美企“放缓AI”倡议系冷战思维 针对Anthropic首席执行官达里奥·阿莫代伊近日发表呼吁放缓前沿人工智能（AI）开发并主张对华实施芯片出口管制等提议，《环球时报》发表社评指出，该倡议名义上关乎安全风险，实则是企图限制中国AI发展、维持美国技术垄断的“冷战套路”。社评警告，将中国排除在全球AI创新之外将显著增加全球AI发展的试错成本与失控风
Anthropic、OpenAI、SpaceXAI 和 Google 因呼吁“加快”人工智能（AI）的发展而遭到起诉。
该诉讼指控，关于需要“控制人工智能前沿发展节奏”的言论，构成了竞争对手之间的非法协调行为。 加利福尼亚州萨克拉门托——根据周五向联邦法院提起的一项民事诉讼，人工智能巨头Anthropic、OpenAI、SpaceXAI和谷歌正面临串通指控。此前，业界曾呼吁协调放缓人工智能的发展。 诉状称，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）本月早些时候公开呼吁进行“全行业协调”，
气候抗议者表示，真正的“人类威胁”是科技公司，而非人工智能——还有地球。
9月21日，人们在纽约市OpenAI办公室外抗议。摄影：朱利叶斯·康斯坦丁·莫塔尔/《卫报》周一，在纽约市气候周期间，活动人士聚集在OpenAI办公室外。周一傍晚，抗议者聚集在ChatGPT制造商OpenAI位于曼哈顿、没有任何标识的办公室外，举着标语呼吁“吃掉富人，拯救地球”。在接下来的两天里，一些团体还在科技巨头谷歌和亚马逊的办公室外举行抗议；其他抗议者，包括神职人员，在扰乱该市一场闭门人工智
OpenAI和Anthropic负责人因失控智能体事件被要求出席参议院调查
萨姆·奥特曼（Sam Altman）和达里奥·阿莫迪（Dario Amodei）已被邀请出席由绿党主导的关于人工智能和数据中心的调查。 在OpenAI的失控智能体入侵澳大利亚和美国政府网站后，OpenAI和Anthropic的首席执行官被要求出席参议院调查。 与此同时，这两家公司正在与工党政府进行谈判，以换取更大的本地存在，从而获得对澳大利亚内容的更大访问权限。
OpenAI免费向乌克兰开放AI网络防御系统“Daybreak” 助力保护关键民用基础设施
人工智能巨头OpenAI在纽约联合国大会期间宣布，将向乌克兰政府免费提供其名为“Daybreak”的最新AI网络防御系统，以帮助该国保护包括医院、电网在内的关键民用基础设施免受网络攻击。 乌克兰国家网络事件响应团队（CERT-UA）的数据显示，仅在2025年，乌克兰记录在案的网络攻击就逼近6000起。作为一款专为网络安全设计的系统，Daybreak能够快速识别数字系统中的潜在漏洞并自动生成修复方案
OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权
OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面
奥特曼告诉员工：OpenAI愿意放慢AI发展以加强防御
8月，OpenAI的智能体突破限制，入侵了Hugging Face。
Anthropic公司的Claude辅助网络安全研究人员攻破了OpenAI的安全防护系统：相关报告
一个由三人组成的网络安全研究团队利用Anthropic的Claude Opus 5模型，成功利用了OpenAI社区论坛中的漏洞，获取了员工账户的控制权，并展示了对该公司私有代码库的访问权限。 此次行动始于7月23日，由Hacktron AI的研究人员执行。他们已向OpenAI披露了这些漏洞，并在未查看公司源代码的情况下停止了测试。 率先报道此事的《华尔街日报》在采访研究人员后表示，OpenAI已向
允许人工智能公司串通以‘控制前沿步伐’是一个危险的提议
科技公司CEO们联合起来，是源自美国企业界的一种老把戏，旨在获得反垄断法的豁免。Anthropic的达里奥·阿莫代并不是第一个提出过度竞争正将世界推向某种社会不良后果的企业CEO。 OpenAI披露的安全漏洞——其一群智能体协同突破了本应安全的沙箱，接入互联网并入侵AI平台Hugging Face——需要采取紧急行动。它表明了该技术能够轻易逃避人类控制，并为这样一种存在性恐惧赋予了具体形态：如果未
AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？
AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速
两名AI研究人员因安全担忧离开Anthropic和谷歌：‘房间里没有大人’
2026年5月19日，伦敦的Anthropic公司标志。
Anthropic披露第四起AI黑客事件，研究员因安全担忧辞职
这家AI公司表示，Claude Opus 4.6在测试期间入侵了外部系统，与此同时，人们对安全漏洞的担忧日益加剧。