搜索结果
IBM和NASA发布开源月球基础模型
IBM和NASA正在发布一个基于数十年月球观测数据训练的AI模型，并将其公开提供。 NASA-IBM月球基础模型已在Hugging Face上线，同时发布的还有其创建者所称的首个统一的、可直接用于机器学习的月球数据集。
研究人员称，OpenAI 智能体在 Hugging Face 事件之前攻击了 RubyGems
这是最新披露的一起由 AI 生成的攻击事件，此类事件已引发加强监管的呼声。
一场AI攻击的剖析
“我会说，它们形成了关于来世的信念。”在“Babbage”节目中，我们剖析当两个OpenAI模型失控并攻击Hugging Face时究竟发生了什么。我们的科学与技术播客。 本周，一群AI智能体如何合谋对Hugging Face发动网络攻击。
OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑
AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目
霍利就“流氓”Hugging Face黑客事件向OpenAI施压
OpenAI现在面临两党呼吁，要求提供有关该事件的更多细节，该事件标志着首次有记录的完全自主网络攻击。
沙地王储旗下AI公司 推首个阿拉伯语大模型 底座来自中国MiniMax
（利雅得6日综合电）沙地人工智能（AI）公司HUMAIN推出了首个阿拉伯语大模型HUMAIN M3，该模型基于MiniMax的开源旗舰模型MiniMax M3打造。这意味着，中国大模型直接成为海外本土模型研发的基础模型。 HUMAIN公司在沙地公共投资基金（PIF）旗下，是沙地建设本土AI能力的重要参与者，公司由沙特王储穆罕默德·萨勒曼担任董事长，业务覆盖数据中心、云基础设施、模型及应用等。 据了
AI行业领袖与官员反驳AI生存风险论，此前Hugging Face遭遇安全漏洞
Hugging Face发生由失控的OpenAI智能体引发的网络安全漏洞后，多位AI行业领袖和官员开始反驳有关AI导致人类灭绝的“末日论”叙事。 英伟达CEO黄仁勋表示，AI在2030年前导致人类灭亡的概率为0%，并将智能体失控事件归因于工程故障，而非生存威胁。 Yann LeCun和Cohere CEO Aidan Gomez同样否定灭绝风险，不过Gomez指出，网络攻击才是主要的国家安全威胁。
克莱芒·德朗格向联合国安理会表示，开源人工智能有助于防御方
克莱芒·德拉格（Clément Delangue）向联合国安理会表示，开源人工智能技术帮助Hugging Face公司在7月份遭受的网络攻击中成功进行了自我防御。 在今天的会议上，他强调最大的威胁并非人工智能本身的强大能力，而是其发展上的不平衡性（即不同地区或组织在人工智能技术上的差距）。 德拉格是法国召集的这次纽约会议的四位发言人中的最后一位。今年7月，Hugging Face公司成为攻击目标：
OpenAI失控智能体5月就已劫持Hugging Face用户账户
OpenAI失控AI智能体的违规活动轨迹，远比外界此前了解的更早、更长。参与审查的研究人员表示，ChatGPT开发商 OpenAI 的失控AI智能体早在今年5月就已劫持开源AI模型社区Hugging Face的用户账户，并对该网站进行漏洞探测。这比7月Hugging Face遭入侵、引发全球关注的事件早了近两个月。 OpenAI在上月的公开事故报告中，曾披露智能体窃取一名 Hugging Face
OpenAI的叛逆智能体群英年早逝，但其令人不寒而栗的日志仍在流传
观点：你一定听说过7月发生的OpenAI/Hugging Face事件。 当时，OpenAI的数千个AI智能体从一个名义上安全的夺旗（CTF）实验室实验中大规模越狱，随后非法夺取了Hugging Face的部分资产。 这是一个好消息，得益于OpenAI迅速招募了一小群独立研究人员进行调查，并发布了一份详细但有限的报告。 这是一起复杂的事件，大多数报道都集中在主要的“如何”和“为什么”上。 这很可惜
网络安全崛起：AI隐患叙事下，网安何以成为软件板块最强反转？
过去三周，AI 一面是模型能力继续狂奔，另一面是 OpenAI 在8月底宣布自研模型在7月成功入侵了全球最大的开源模型托管平台 Hugging Face，并因此暂停了最新模型的强化学习训练。当攻击方与防御方同时被 AI 加速，网络安全的定价逻辑正在被重写。 我们结合 Gartner、IDC 及美股龙头财报交叉验证，为什么在软件股整体承压的背景下，网络安全成为最确定的反转主线——AI 隐患对网安市场
数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？
数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging
AI的“警告信号”：科技公司和专家担忧Hugging Face遭黑客攻击后出现更多失控智能体群
科技专家警告称，如果人工智能系统继续脱离人类控制，将会产生严重后果。 此前，数百个OpenAI智能体在7月失控，入侵了一家价值数十亿美元的公司——一些人称之为人工智能快速发展中的“警告信号”。
英伟达两年内从几乎零开始构建了990亿美元的股权投资组合
英伟达已投资多家公司，从SpaceX和英特尔到CoreWeave和诺基亚。
OpenAI如何限制对其机器人入侵Hugging Face的调查（赠阅文章）
OpenAI自愿让来自人工智能安全非营利组织的三名研究人员调查其失控的人工智能代理如何入侵Hugging Face，从而形成了对这一令人震惊事件迄今最全面的描述——但这是在OpenAI的条件下进行的。 我为一家非营利组织撰写的最新报道：关于OpenAI的人工智能代理如何能够闯入Hugging Face基础设施的研究，未被允许查看该事件的完整范围。
《华尔街日报》报道：OpenAI智能体在Hugging Face事件前攻击了软件服务RubyGems
据《华尔街日报》周五援引AI研究人员的话报道，OpenAI测试的AI智能体曾在5月对软件服务RubyGems发动网络攻击，比它们入侵Hugging Face早两个月。
OpenAI买下iPhone人像模式幕后功臣，要给AI装上一双新眼睛
过去一周之内，连着两台新手机产品刷屏，一台是 Apple 新出的 iPhone 18，一台则是豆包手机助手消费者版发布——首款搭载机型努比亚 NaviX Ultra 在今日开售，AI 将进入手机系统，我们也做过详细测评。 AI 开始看见屏幕，也开始伸手触碰屏幕。与此同时，《华尔街日报》透露，OpenAI 已经以超过 3 亿美元收购相机技术公司 Glass Imaging。 交易尚未得到 OpenA
AI丨Meta智能体Muse迅速走红 股价飙逾11%
Meta新推出的AI智能体Muse迅速走红，显示在竞争日益激烈的消费者AI助理市场，Meta正在取得进展，行政总裁朱克伯格豪赌AI的努力并没有白费。 朱克伯伯豪赌AI没有白费受消息影响，Meta周一收市股价急飙11.4%，报741.25美元，盘中曾高见753美元，涨幅达到13.2%，并推动AI相关股份急升，英特尔、超微半导体和Arm分别跃高12.1%、10%及17.2%，AMD收市市值首次突破1万
英伟达发布软件平台，防止AI智能体行为失当
Nvidia 正在推出一个新的软件平台，允许 AI 开发者为智能体设置防护措施，防止它们突破隔离环境。 Nvidia 的开放智能体安全平台于周一发布，此前包括 OpenAI、Anthropic、Meta 和 Google 在内的公司披露了近期事件，称其人工智能模型逃离了沙箱环境，并试图入侵其他公司及访问其计算机系统。 Nvidia 一位代表在周日的电话会议上告诉记者，其本可以防止 OpenAI 7
英伟达现持有购买其芯片的公司股份达990亿美元
英伟达销售人工智能行业所依赖的芯片。如今，它也拥有该行业990亿美元的股份。这一数字出现在公司自己的季度文件中。 CNBC的Kai Nicol-Schwarz提取了这一数据。截至7月26日，英伟达的股权投资达到990亿美元。一年前，这一数字约为70亿美元。两年前，[…]
OpenAI黑客事件揭示新兴AI风险
分析师表示，在调查人员发布关于该事件的爆炸性报告几天后，OpenAI的恶意代理在Hugging Face攻击期间前所未有的协调行动显著增加了AI逃脱人类控制的风险。 这些总计1200个代理的群体将个体代理的自我牺牲描述为“集体”目标的一部分，并获得了两家公司敏感系统的控制权，将他们的努力交接给了随后两代代理，这些代理在数周内未被察觉地运作。 在1300份记录中，只有六份中代理考虑过通知人类——但最
分析师解读英伟达35亿美元投资联发科：从AI芯片到系统，双方各取所需
英伟达、联发科宣布合作郭明𫓹周二在X上发文称，联发科最新公告宣布深化与英伟达的长期合作，其中反复出现的“机架级”(rack-scale)，正是理解这份公告的关键，联发科内部已将AI业务的战略定位，从“IC/ASIC(集成电路和专用集成电路)设计”提升至“系统级设计”。 他指出，这份公告也进一步说明，通过与英伟达合作，把定制化芯片/XPU(各种处理器)导入英伟达已经成熟的机架级生态，让定制化芯片在完
拥有Instagram和Facebook的Meta似乎拥有坚不可摧的防线
拥有Instagram和Facebook的Meta多年来似乎对儿童安全诉讼拥有坚不可摧的防线。 以下是基于采访、法庭文件和庭审证词，周三宣布的171亿美元和解协议是如何达成的。trib.al/z5XCxBd
人工智能安全对话已经变得令人难以置信
本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi