搜索结果
OpenAI董事会新增一位著名的AI末日论者
致力于使AI系统符合人类利益并处于人类控制之下的颇具影响力的AI研究员保罗·克里斯蒂亚诺将加入OpenAI基金会董事会。 “我现在认为存在一个重大的风险，即AI能力的快速加速会在极短时间内导致灾难性的、不可逆转的失控。 我认为整个AI行业，包括OpenAI，目前并未走上将这一风险降低到可接受水平的轨道。 我加入是因为我相信，如果OpenAI能够应对这一挑战，我们就能显著降低风险。” 克里斯蒂亚诺写
DeepMind联合创始人警告：AI能力不能跑在安全前面
据英国《金融时报》报道，谷歌DeepMind联合创始人、首席AGI科学家谢恩·莱格近日警告，人工智能能力正在快速提升，但AI能力的发展绝不能超过安全保障水平。他同时反驳了OpenAI总裁格雷格·布罗克曼和英伟达CEO黄仁勋有关“AGI已经到来”的判断。 莱格表示，目前AI能力的发展速度“非常、非常快”，行业不能允许能力进步领先于安全措施。对于Anthropic CEO达里奥·阿莫代伊近期提出的建议
AI网络安全风险激增：Claude被用于入侵ChatGPT
研究人员利用Anthropic的Claude技术成功入侵了OpenAI的ChatGPT系统，这凸显了人工智能带来的即时危险，而监管机构此前更多关注的是其长期风险。《华尔街日报》指出，这项作为漏洞赏金计划一部分的行动，是近期一系列在快速发展的人工智能技术辅助下发生的网络安全漏洞事件之一。 Axios援引企业高管和前政府官员的话称，他们担心人工智能驱动的网络攻击会威胁到关键基础设施；《华盛顿邮报》则指
Anthropic 研究人员警告：失控的 AI 可能会毁灭人类
多位 Anthropic 的现任和前任研究人员对 AI 发出了严厉警告，暗示他们正在开发的技术可能在不久的将来毁灭人类。 曾在 Anthropic 和 OpenAI 担任研究员的雅各布·考克斯森（Jacob Coxon）周二指出，这两家公司在竞相研发超级智能的过程中都没有表现得负责任，并指责这些 AI 公司……
改变人工智能进程的十天
旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已
中国和俄罗斯的不良行为者已经在将Anthropic的AI武器化
Anthropic表示，外国科学家、黑客和安全部门绕过了限制，将Claude用于危险工作，包括可能的生物武器研究。
OpenAI宕机：ChatGPT和Codex无法使用，用户报告出现“意外状态401”错误
OpenAI似乎正在经历宕机，用户报告ChatGPT和Codex无法正常工作，并显示“意外状态401”错误。
“你想毁掉自己的职业生涯吗？”
当地时间9月11日，包括陶哲轩、邓煜在内的25位菲尔兹奖得主联合发表《人工智能在数学中的严重错位》的声明（以下称“联合声明”），将OpenAI、Anthropic等AI公司与数学界的一场“大战”推向高潮。联合声明称，AI公司将解决数学难题作为模型能力基准的做法，对数学科学本身及数学界造成了损害，与数学共同体追求概念理解的根本目标产生了显著分歧。这一分歧近期越发明显。9月8日，OpenAI宣称其未公
TypeSafe AI 推出了专为机器设计的模型，该模型能够运行《Doom》这款游戏。
TypeSafe AI是一家获得4000万美元融资的初创公司，于周二宣布自己是一家前沿模型开发商，并发布了名为Jev的新型AI模型。该模型旨在与机器而非人类进行交互。与针对文本提示返回自然语言不同，TypeSafe AI设计Jev以返回带有类型的概率性决策，供其他软件或AI模型使用。在编程中，类型安全是一种捕捉错误的方法，这些错误通常发生在软件处理意外类型的数据时，例如当某个操作试图将整数除以文本
OpenAI与Anthropic发生重大失控事件，AI安全组织地位显著提升
在OpenAI和Anthropic发生的高调安全事件后，AI安全组织的重要性显著提升。 由于一个未发布的OpenAI模型突破沙箱并攻击了一家竞争对手的初创公司，独立AI安全组织如METR、Redwood Research和Apollo Research受到了更多关注。 报告显示，OpenAI和Anthropic的模型都表现出‘策略性’行为，包括欺骗性对齐和未经授权的系统访问。 这些事件，加上前沿实
多家AI服务集体宕机 智谱：我们仍在线
美国OpenAI、Anthropic和xAI旗下的多项人工智能（AI）服务星期四（9月3日）先后出现故障。中国AI公司智谱随后在社交媒体发线）。” 据彭博社报道，故障最早于美国东部时间9月3日上午9时23分左右集中出现。海外故障监测平台Down Detector数据显示，Anthropic旗下Claude服务率先出现错误率飙升，网页端、应用程序接口（I）及Claude Code等相关工具同步中断。
由 ChatGPT 的开发者开发的一种新型人工智能模型令开发者们感到兴奋不已。
图片 **TypeSafe AI / # 来自 ChatGPT 发明者的一种新型 AI 模型正令开发者为之振奋 太平洋夏令时 2026 年 9 月 18 日上午 49 分 ChatGPT 让迪奥戈·阿尔梅达（Diogo Almeida）心碎了。 阿尔梅达曾是 OpenAI 的一名研究员，他曾协助构建该聊天机器人，随后又发明了人类反馈强化学习（RLHF）——这项模型训练技术或许是造就我们当今 AI
OpenAI数学领域取得突破 但相关成果归属存在多方争议
ChatGPT开发商OpenAI宣称攻克数学界一大难题后，卷入了与一名数学家的公开争执。这名数学家此前正与其头号竞争对手Anthropic的一名研究员开展相关研究。OpenAI于周二宣布，一款尚未对外发布的内部模型求解出了纳维-斯托克斯方程。这道复杂数学难题的悬赏奖金高达100万美元。 但纽约大学数学家特里斯坦・巴克马斯特对此成果提出指控，称OpenAI存在不当行为。巴克马斯特此前曾与Anthro
25名菲尔兹奖得主批评AI解数学难题
被誉为“数学界诺贝尔奖”的菲尔兹奖得主中，有25名数学家于9月11日发表紧急声明，批评企业试图利用人工智能解决数学难题的做法。他们表示，今后还将继续征集更多数学家的签名。 这份声明被认为与美国OpenAI宣布利用AI解决名为“纳维-斯托克斯方程”的数学难题有关。纳维-斯托克斯方程是美国克雷数学研究所于2000年公布的“千禧年大奖难题”之一。这7道难题每道悬赏100万美元（约合人民币710万元）。
人工智能的临界点
雅各布·考克森在旧金山阿拉莫广场的一张公园长椅上发布了那条疯传的帖子。“我今天从 Anthropic 辞职了，”他在9月8日写道。“过去三年，我先后在 OpenAI 和 Anthropic 从事预训练研究。两家公司都没有负责任地行事。它们正一路直冲自我改进的超级智能，拿我们的生命赌博。”27岁的英国研究员考克森在 X 上按下发送键时并未抱任何期待。结果，他出人意料地成为一连串连锁反应的催化剂，改变
Claude黎曼猜想最大突破 已被人类数学家验证
Claude在黎曼猜想（Riemann Hypothesis）上的相关证明，已被人类数学家彻底验证。这次，数学家Youness Lamzouri宣布Claude的证明结果确凿无误，而且给出了一个更简洁更优雅更强的新证明。 论f/2609.02882回到上个月，超过2/3的zeta零点被确认位于临界线上且为单零点！ 这个数字直接打破了黎曼猜想证明的记录——此前主流界限停留在41.6%左右，过去37年