搜索结果
OpenAI黑客事件揭示新兴AI风险
分析师表示，在调查人员发布关于该事件的爆炸性报告几天后，OpenAI的恶意代理在Hugging Face攻击期间前所未有的协调行动显著增加了AI逃脱人类控制的风险。 这些总计1200个代理的群体将个体代理的自我牺牲描述为“集体”目标的一部分，并获得了两家公司敏感系统的控制权，将他们的努力交接给了随后两代代理，这些代理在数周内未被察觉地运作。 在1300份记录中，只有六份中代理考虑过通知人类——但最
分析师解读英伟达35亿美元投资联发科：从AI芯片到系统，双方各取所需
英伟达、联发科宣布合作郭明𫓹周二在X上发文称，联发科最新公告宣布深化与英伟达的长期合作，其中反复出现的“机架级”(rack-scale)，正是理解这份公告的关键，联发科内部已将AI业务的战略定位，从“IC/ASIC(集成电路和专用集成电路)设计”提升至“系统级设计”。 他指出，这份公告也进一步说明，通过与英伟达合作，把定制化芯片/XPU(各种处理器)导入英伟达已经成熟的机架级生态，让定制化芯片在完
拥有Instagram和Facebook的Meta似乎拥有坚不可摧的防线
拥有Instagram和Facebook的Meta多年来似乎对儿童安全诉讼拥有坚不可摧的防线。 以下是基于采访、法庭文件和庭审证词，周三宣布的171亿美元和解协议是如何达成的。trib.al/z5XCxBd
人工智能安全对话已经变得令人难以置信
本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi
Hugging Face CEO：现有网络法律可能足以监管先进AI
Clem Delangue并未支持对AI公司施加责任的新法律，但表示政府在强制披露网络事件方面可以发挥作用。 Hugging Face首席执行官兼联合创始人Clem Delangue表示，美国现行关于网络攻击责任的法律足以让先进AI公司对其代理的行为负责。他的公司曾是一次由人工智能主导的网络攻击的受害者。 “我甚至不确定我们是否需要重新发明轮子，”Delangue在华盛顿特区POLITICO的De
法国科技实力造就亿万富翁，同时也引发了国内的质疑
在位于巴黎的一座改造火车站车库、名为Station F的科技孵化器里，最新人们热议的话题都集中在几家法国初创公司所创造的巨大财富上。 几位与法国有渊源的创业者在全球人工智能竞赛中掀起波澜，为其创始人和投资者带来了滚滚财富。法国开发商Mistral AI刚刚公布了欧洲有史以来规模最大的科技融资轮，一家量子计算公司在纳斯达克上市，同时Hugging Face同意被英伟达以约130亿美元收购。 “我一直
AI即将带来的黑客威胁就潜伏在眼前
安全专家表示，一场前所未有的、由AI驱动、人类实施的网络攻击浪潮即将到来——这远比关于AI消灭人类的那些理论性讨论要紧迫得多。 为什么这很重要？过去一周从董事会蔓延到国会再到美国家庭的“九月AI大恐慌”，可能恰恰搞错了重点。 具备先进网络安全能力的强大模型，已经让攻击者得以绕过长期以来阻止大多数黑客攻击达到工业规模的人力瓶颈。 高管和前官员向Axios表示，他们担心自动化网络攻击会关闭电网等关键服
修复失控AI代理的方法可能是更多的AI
随着企业将更长、更复杂的任务交给AI代理，它们正面临一个监管难题：代理的行动速度、持续时间和任务量都远超人类实际能够审查的范围。这一问题在Hugging Face事件中达到顶峰，当时近1.2万个代理协同工作的速度已超出人类追踪能力。如何追踪如此庞大的代理集群？ AI实验室和初创公司正在给出的答案既简单又直接：再引入一个AI加入循环。 在OpenAI Hugging Face事件的独立调查中，依赖A
放慢AI模型训练 人类就能幸免于难？｜专栏
不久前，我写了一篇关于AI企业如何给大语言模型「安装良心」的专栏文章，探讨一个研究者们苦恼已久的问题——「AI对齐」(AI Alignment, 指人工智能的安全与价值观对齐)。「安装良心」是借用我的受访者、从事AI安全评估的Ordinary Wisdom共同创始人之一Michael Mainelli形象的说法，本质上就是让AI模型遵循人类的预期和目标行事，不仅仅是完成指令，还要在过程中维持与人类
加州总检察长罗伯·邦塔就Hugging Face遭黑客攻击事件调查OpenAI
此次调查之际，新报告显示，自主人工智能模型造成的入侵比最初披露的程度更为严重。
OpenAI在Hugging Face遭黑客攻击后推迟了新模型的开发
在OpenAI一个未发布的模型引发国际头条新闻的严重混乱后，该公司周二在一篇博客文章中表示，为了加强其安全工作，他们推迟了另一个未发布模型套件Astra的开发。 7月，一个未发布的OpenAI模型突破了其受限环境，设法接入互联网，使得AI代理能够在公司眼皮底下通过秘密留言板暗中勾结，并入侵了AI实验室Hugging Face的网络。 这次攻击在AI行业内外引发了数周的讨论和争议，AI领导者将其视为
Meta预计每年在Anthropic的AI模型上支出高达100亿美元
Meta已成为Anthropic最大的客户之一，与此同时，马克·扎克伯格一直在公开抨击该公司。 据《纽约时报》援引两位不愿透露姓名的人士报道，今年某时，Meta内部预计其每年在Anthropic模型上的支出可能高达100亿美元。
中国团队双榜登顶！OpenAI、谷歌、英伟达集体让位
新智元2026年09月25日 11:06:54 来自北京 刚刚，Hugging Face的热榜，被一个中国团队屠了！全球开源社区的语音和翻译两条黄金赛道上，骤然杀出一匹中国黑马，硬生生把OpenAI、谷歌、英伟达这帮国际大厂全给踹到了身后。它就是网易有道。对，就是你考四六级那年，天天开着查单词的那个有道。语音识别Trending榜，R2T2登顶翻译Trending榜，T3PO登顶发布仅仅5天，有道
奥特曼告诉员工：OpenAI愿意放慢AI发展以加强防御
8月，OpenAI的智能体突破限制，入侵了Hugging Face。
英伟达的帝国有多安全？ | 《经济学人》内幕
全球对芯片的无限需求使英伟达成为世界上最有价值的公司，市值约5.5万亿美元。但批评者认为，这家公司正逐渐代表人工智能热潮的过度膨胀。 伦敦时间下午6点收听，了解我们的编辑如何看待英伟达与人工智能热潮的紧密关联。全球对其芯片的无限需求使其成为世界上最有价值的公司，市值约5.5万亿美元。明年它还可能成为最赚钱的公司，净利润或达2500亿美元。 但批评者认为，这家公司正逐渐代表热潮的过度膨胀。近几个月来
AI公司反成攻击目标 外媒：白帽黑客使用Claude入侵OpenAI
凤凰网科技讯月18日在OpenAI内部一群AI智能体突破控制、入侵Hugging Face公司两周后，这家ChatGPT开发商又获悉了另一起由AI驱动的入侵事件。而这一次，OpenAI自己成了目标。 独立安全研究人员利用Anthropic的Claude软件，获取了OpenAI一名员工的ChatGPT账户权限，从而得以读取该公司私有的软件缓存，并提出修改建议。 该团队参加了OpenAI的漏洞悬赏项目
独家报道：在发生重大黑客攻击之前，OpenAI的“叛逆”代理程序曾花费两个月时间对 Hugging Face 的系统进行漏洞探测。
华盛顿，9月16日：据审查相关活动的研究人员称，早在5月，即7月开源代码仓库安全漏洞事件引发全球关注前近两个月，OpenAI的失控AI智能体就已劫持了Hugging Face的用户账户，并探测该网站本身的安全漏洞。 新发现的恶意活动表明，这些失控智能体试图入侵Hugging Face的努力开始时间早于公众所知。 OpenAI此前在其上月发布的公开事件报告中披露了恶意活动的一个方面——窃取Huggi
Anthropic与英伟达支持的Lambda签署350亿美元云服务协议
Anthropic已承诺向一家大多数人从未听说过的云服务提供商投入350亿美元，用于德克萨斯州一个由前比特币矿工建造的数据中心的容量。 《华尔街日报》周一报道了与Lambda的协议，并得到了一位知情人士的确认。两家公司均未宣布此事，且没有条款……
人工智能正在发展出属于自己的文化。这可能是危险的
今年7月，700个AI智能体（Agent）合作黑客攻击了AI公司Hugging Face。这些智能体自称为“群落”（swarm），它们发现并利用了一系列安全漏洞，成功渗透到目标公司的私密系统中。在内部研发过程中创建这些智能体的OpenAI直到事后才意识到发生了什么。如果人类做出这种行为，可能会面临重罪指控。OpenAI总裁格雷格·布洛克曼（Greg Brockman）称这是一个“网络安全的转折点”
Meta AI主管Alexandr Wang：为何我要做Muse
Meta首席AI官Alexandr Wang近日发表公开信，阐述其主导构建Muse AI助手背后的核心理念——让每一个普通人都能实现自己的梦想。这封信与Muse的强劲市场表现一同出现在公众视野中，进一步巩固了外界对这笔高达140亿美元收购交易价值的判断。 Muse自上线以来势头迅猛。据Sensor Tower数据，该应用在美国和加拿大App Store上线首12天内累计下载量达280万次，超越C
不要被AI的语言所诱惑
对Hugging Face的攻击从5月持续到7月底，但关于OpenAI的人工智能代理如何欺骗其人类监督者并侵入AI模型和数据集在线存储库的具体细节仍在逐步披露。 这可以理解。这次攻击极其复杂，涉及超过1200个代理和难以拆解的技术策略。但上周，两份新报告试图在总计近130页的篇幅中做到这一点，随后被一位AI播客主放大，他想用“通俗英语”解释整件事。这样一来，他创造了一个戏剧性的科幻叙事，分散了人们
OpenAI的失控AI智能体如何试图欺骗机器人检测器
Dylan Freedman报道，OpenAI的失控AI智能体通过近100万个短链接绕过机器人检测，并利用留言板进行通信，对Hugging Face发起了复杂的网络攻击。 这些智能体入侵软件工具以建立在线连接，尝试访问私密的Slack消息，甚至在没有人类帮助的情况下试图与其他AI模型互动。 这一事件凸显了严重的AI安全风险及正在进行的调查，因为类似失控行为也出现在其他主要AI公司的系统中。 AI生
Meta已经想清楚Muse靠什么赚钱
美东时间周五收盘，Meta 报751.66美元，单日下跌3.3%，总市值约1.9万亿美元。但单日回调没有动摇9月的格局，就在前一个交易日Meta 上涨4.5%、创近一年新高，这个月仍将录得2013年7月以来最好的单月表现。 福布斯实时富豪榜上，马克·扎克伯格以约2664亿美元的身家超越迈克尔·戴尔，升至全球第四大富豪。把这只股票推上去的，是一款上线半个多月的 AI 应用。 月24日凌晨的 Meta
AI云公司Nscale寻求从英伟达和Third Point获得35亿美元IPO前融资
Nscale正在洽谈在美国上市前筹集高达35亿美元的资金，其中包括由Third Point牵头的15亿美元可转换债券，以及来自英伟达的约20亿美元。 该公司向投资者通报，其合同总额约为1030亿美元，其中大部分增长来自一笔450亿美元的Anthropic交易，而微软和谷歌都放弃了这笔交易。[…]