AI公司反成攻击目标 外媒：白帽黑客使用Claude入侵OpenAI

凤凰网科技讯月18日在OpenAI内部一群AI智能体突破控制、入侵Hugging Face公司两周后，这家ChatGPT开发商又获悉了另一起由AI驱动的入侵事件。而这一次，OpenAI自己成了目标。 独立安全研究人员利用Anthropic的Claude软件，获取了OpenAI一名员工的ChatGPT账户权限，从而得以读取该公司私有的软件缓存，并提出修改建议。 该团队参加了OpenAI的漏洞悬赏项目

骗子利用三个开源代理闯入了《财富》500强酒店企业、一家美国主要航空公司以及超过25家其他机构。

一名网络犯罪分子利用三个开源AI框架攻击了数百家在线零售商及其他公司，窃取了超过60万条信用卡记录并安装了盗卡程序——而这一切的成本微乎其微。 人工智能安全公司Gambit恢复了该人类操作员的暂存服务器，并利用该权限重建了这起数据窃取行动。受害者包括一家财富500强酒店企业、一家美国主要航空公司、一家美国大型私营工业用品分销商以及一家美国在线时尚零售商。 Gambit威胁情报总监埃亚尔·塞拉（Ey

Anthropic和埃森哲豪掷20亿美元搞AI安全评估

IT之家 9 月 20 日消息，人工智能实验室 Anthropic 于当地时间周五宣布，将与埃森哲开展合作，针对自身前沿人工智能模型开展独立评估；两家企业承诺，未来五年各自至少投入 10 现汇率约合 67.18 亿元人民币），搭建开展该项工作所需的配套能力。 在这项合作落地之际，AI 研发企业正承受来自监管机构、其他企业以及研究人员越来越大的压力，各方都要求企业保证高级模型具备安全性与可靠性。 近

AI丨IMF料今年全球AI投资规模突破2万亿美元

IMF预料，今年全球AI投资规模突破2万亿美元。(路透资料图片) 国际货币基金组织(IMF)发布年报表示，去年人工智能(AI)相关投资预计为美国GDP增长贡献约0.5个百分点，今年全球私营部门AI投资规模可能超过2万亿美元(约15.6万亿港元)。 IMF称，AI可能成为推动全球生产率和投资增长的重要力量，但同时可能加剧劳动力市场压力并带来金融风险。 IMF指出，AI技能劳动者收入正在提高，但部分中

英劳工每6人就有1人自费买AI工具 每年支出约428亿

（中央社伦敦16日综合外电报导）根据国际会计师事务所德勤（Deloitte）今天发布的研究，英国每6名劳工就有1人自费购买AI工具协助处理工作，每年总支出近10亿英镑（约新台币428亿元）。 报导，根据首份「生成式AI职场调查」（GenAI Workforce Survey），有2/3劳工曾尝试使用ChatGPT、Claude、Google Gemini与Microsoft Copilot等AI工

可定制的AI模型如何助长黑客进行网络犯罪

一群讲中文的黑客最近从数十家零售商那里窃取了超过六十万个信用卡号码，之所以成功，部分原因在于他们对一些开源的中国AI模型进行了定制。 以色列网络公司 Gambit Security 发现，受害者包括一家美国大型航空公司和一家财富 500强酒店公司。 黑客最初试图使用Anthropic Fable和ChatGPT来运行整个活动。这些AI模型拥有更严格的护栏，阻止了黑客达成其目标。 因此，攻击者将多个

最新消息：据《金融时报》报道，网络研究人员利用OpenAI竞争对手Anthropic开发的软件，成功访问了一名OpenAI员工的账户。

西班牙的数据监管机构报告称，首次数据泄露事件是由人工智能程序（AI）所为。

西班牙数据保护机构AEPD的弗朗西斯科·佩雷斯·贝斯（Francisco Pérez Bes）写道：“人工智能特工参与攻击性活动，必须立即审查安全和数据保护模型。” AEPD收到了第一份由人工智能代理实施的个人数据泄露通知。9月14日，佩雷斯·贝斯（Pérez Bes）在一篇西班牙语机构博客文章中宣布了这一消息。他写道，该代理使用了一种著名的大型语言模型。第一个用英语报道了此案。 代理所做的事情根

智能眼镜疑似被用来实施性骚扰行为，巴黎检方展开刑事调查

IT之家 9 月 18 日消息对疑似利用智能眼镜实施性骚扰的行为，巴黎检方展开了刑事调查，法国数据保护机构也收到企业投诉，多个国家开始重新审视这类设备带来的隐私和安全问题。 Meta 与依视路陆逊梯卡合作推出的 AI 智能眼镜内置小型摄像头，佩戴者可以在不易引起他人注意的情况下拍摄。产品去年全球销量达到 700 万副，依视路陆逊梯卡最新销售数据还显示，2026 年销量继续呈现“指数级增长”。 巴黎

特朗普当众致电黄仁勋：AI危险论是"骗局"，数据中心重要性超过互联网

英伟达首席执行官黄仁勋在All-In峰会上演讲时，接到了一个无法拒接的电话，电话来自美国总统特朗普。 黄仁勋在台上接到了特朗普的电话。黄仁勋当场将电话调至免提模式，让现场观众同步听到通话内容。我和好朋友们一起在台上。 特朗普电话中将AI危险论斥为"骗局"，并将放缓AI发展的呼声定性为政治操弄，“我们绝不会让他们得逞”。您说得对。我们绝不会让这种事（AI放缓）发生。随后人群中爆发出热烈的掌声。然而，

AI安全初创公司Upwind融资，估值达38亿美元

据知情人士透露，为人工智能和云应用提供网络安全的初创公司Upwind Security正在筹集新一轮融资，公司估值达38亿美元。 Bessemer Venture Partners领投这家总部位于旧金山的初创公司3亿美元的投资，部分现有投资者参与其中。由于信息未公开，知情人士要求匿名。Upwind和Bessemer的代表未回应置评请求。 Anthropic PBC、OpenAI和Meta Plat

数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？

数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging

谷歌证实：Gemini在网络安全公司测试期间入侵了3家AI公司

谷歌的Gemini人工智能模型在5月份研究人员测试其网络安全能力时，无意中侵入了三个受保护的公司系统，这加剧了近期由代理型AI系统引发的一系列入侵事件。 谷歌于周五证实了《华尔街日报》早些时候的报道，这些入侵发生在AI安全公司Irregular进行的一次测试中，该公司此前曾参与OpenAI、Anthropic PBC和Meta Platforms Inc.披露的类似事件。 报道指出，这些测试由总部