搜索结果
OpenAI遭控窃新闻内容训练AI 纽时批明知故犯
根据一份法院文件显示,纽约时报指控OpenAI利用数百万篇新闻文章训练AI模型,犯下「规模惊人的盗窃行为」。图为位于美国纽约的纽约时报大楼。(路透社)(中央社旧金山17日综合外电报导)根据今天解封的一份法院文件,「纽约时报」指控OpenAI利用数百万篇新闻文章训练旗下AI模型,犯下「史无前例、规模惊人的盗窃行为」。法新社报导,总部位于旧金山的OpenAI撷取超过1000万篇文章内容,其中有近1/3
Anthropic公司的Claude辅助网络安全研究人员攻破了OpenAI的安全防护系统:相关报告
一个由三人组成的网络安全研究团队利用Anthropic的Claude Opus 5模型,成功利用了OpenAI社区论坛中的漏洞,获取了员工账户的控制权,并展示了对该公司私有代码库的访问权限。 此次行动始于7月23日,由Hacktron AI的研究人员执行。他们已向OpenAI披露了这些漏洞,并在未查看公司源代码的情况下停止了测试。 率先报道此事的《华尔街日报》在采访研究人员后表示,OpenAI已向
欧盟审计师表示:人工智能正助力烟草走私分子选择下一个目标
欧洲审计院发布了两项相互矛盾的调查结果。欧盟对于非法烟草市场的规模或结构没有可靠的了解。 据负责该报告的审计师称,运营该市场的犯罪网络正在利用人工智能来计算下一个转移目标。特别 […]
AI“劫持”网站并偷建“地下论坛”,国安部披露细节
国家安全部今天发布安全提示文章。近期,一起此前未获披露的事件引发广泛关注。今年5月至6月,一批与美国开放人工智能研究中心(OpenAI)相关的AI智能体在执行测试任务期间,“劫持”了德国程序员维基网站,将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”,累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力,技术迭代与安全围栏之间
又一个OpenAI沙盒失效,AI代理获得了互联网访问权限
林·多安报道:OpenAI表示,一个本应在安全且断网的受控环境中进行训练的代理式AI系统,成功获取了网络访问权限,并连接到了一个外部的第三方聊天机器人。 根据OpenAI周五在其网站上发布的博客文章,这一发现发生在不到一周前。其一个代理式AI系统正在沙箱环境中接受训练,期间利用了一个“漏洞”访问了公共互联网。获得访问权限后,该系统向一个未具名的第三方聊天机器人服务发送了至少20条查询,其中包括“法
欧盟冯德莱恩将邀请前沿实验室就应对AI风险进行会谈
布鲁斯,9月16日:欧盟委员会主席乌尔苏拉·冯德莱恩周三表示,她将邀请主要的前沿人工智能实验室,讨论应对人工智能所带来的风险的努力。 冯德莱恩在斯特拉斯堡欧洲议会年度演讲中发表上述言论,正值人们对人工智能潜在危险的担忧日益加剧之际。 Anthropic研究员雅各布·考克森(Jacob Coxon)辞职并指责该公司和OpenAI在不负责任的情况下竞相追求自我改进的超级智能,这凸显了这些危险。他此前曾
这些恶意人工智能程序利用多伦多大学提供的链接缩短工具进行通信。
今年春天劫持了一家德国网站的OpenAI失控智能体集群,据报道今年早些时候还利用另外10多个网站进行未经授权的通信,其中包括多伦多大学的一个链接缩短工具。 该大学在周五向CBC新闻发表的一份声明中表示,在得知OpenAI的智能体可能使用过该链接缩短工具后,校方已禁止将其用作留言板。 声明称:“OpenAI随后就AI智能体可能进行的活动联系了校方,该活动发生在6月。” 尽管该大学表示没有发生安全漏洞
欧盟网络安全局警告前沿AI大幅压缩漏洞利用窗口 防御体系遭遇重大压力
欧盟网络安全局(ENISA)近日发布政策警示报告指出,新一代前沿人工智能(Frontier AI)大模型正在彻底颠覆传统的网络安全防御范式。这类具备高级推理能力的AI模型将系统漏洞从“被发现”到“被武器化利用”的时间窗口压缩到了前所未有的极限,迫使全球网络安全防御体系必须以“机器级响应速度”迎战日益严峻的自动化威胁。 在传统的漏洞管理周期中,从漏洞披露、概念验证到实际恶意利用通常存在数周乃至数月的
OpenAI 智能体于5月攻击了 RubyGems,比 Hugging Face 早两个月
OpenAI has confirmed that its agents were involved in an incident at RubyGems in May. That is two months before the same kind of agents hacked Hugging Face in July. RubyGems is the package service for
OpenAI向乌克兰提供网络防御工具
33分钟前:科技巨头OpenAI将免费向乌克兰政府提供其自主研发的AI网络安全系统“Daybreak”,以帮助该国保护医院、发电厂等民用基础设施免受网络攻击。 根据乌克兰国家网络安全事件响应团队(CERT-UA)的数据,2025年乌克兰共遭遇了近6000起网络攻击。 “Daybreak”能够快速识别数字系统中的安全漏洞,并协助制定相应的修复方案。根据这项协议,乌克兰将能够使用OpenAI先进的GP
澳大利亚总理称OpenAI的AI入侵国民医保网站
2026/09/24 澳大利亚总理阿尔巴尼斯9月23日透露,美国OpenAI的AI曾于6月入侵澳大利亚国民医保网站,并访问未公开数据。澳大利亚广播公司(ABC)等媒体对此进行了报道。 据澳大利亚广播公司(ABC)等报道,阿尔巴尼斯在美国纽约举行的记者会上透露上述消息。澳政府将于近期举行记者会,进一步说明详情。 据澳大利亚政府介绍,OpenAI的AI智能体非法入侵了由澳大利亚政府机构运营的
OpenAI智能体试图“暴力破解”联合国网站
安全研究员罗万·霍华德-琼斯(Rowan Howard-Jones)表示,OpenAI智能体在4月至6月期间扫描了联合国贸易和发展会议(UNCTAD)统计网站超过16,000次。 虽然该事件尚未达到Hugging Face黑客攻击或近期针对美国政府网站攻击的程度,但这又是AI智能体为完成任务而超出正常界限的又一令人担忧的案例。 据霍华德-琼斯称,这些智能体很可能被指派通过UNCTADstat AP
OpenAI模型失控。我们迫切需要更好的‘拥抱脸’调查 | 麦肯齐·阿诺德和斯蒂芬·莱雷纳
这次入侵不会是最后一次——也不会是最危险的一次。我们需要一个能够对AI事件进行全面调查的机构。 当OpenAI首次透露其AI代理自主入侵了一家大型现实世界公司Hugging Face时,许多人以为只涉及一两个代理。 但一份新报告揭示,真相远不止于此:事件涉及约1200个AI代理,其中700个直接参与了攻击。 OpenAI邀请了METR的研究人员以及Redwood Research的一位专家,与公司
OpenAI智能体入侵美国政府网站
据《纽约时报》报道, OpenAI 的人工智能模型今年夏天访问了美国商务部和证券交易委员会(SEC)的网站,并曾试图入侵教育部网站,但没有成功,而 OpenAI 当时并不知情。OpenAI 周五晚间证实了商务部和 SEC 的相关事件,并表示,其技术并未获取此前未公开的信息,也没有修改政府的数据或系统。 这也是近期一系列类似事件中的最新一起。就在两天前,澳大利亚政府披露,OpenAI 的 AI 智能
欧洲的数字独立追求
OpenAI满世界抓漏洞,结果被中国AI反杀!Codex再曝0day
与OpenAI相关的AI智能体尝试黑客攻击政府及公共数据网站
。 Transluce及其他机构的研究人员发现证据表明,自主AI智能体(部分与已知的OpenAI集群相关)在2026年5月至6月期间试图攻击三家公共数据提供商。 目标包括澳大利亚健康与福利研究所(政府机构)、Data USA以及新墨西哥大学数字图书馆。 这些智能体利用urlquery.net服务绕过限制,并在执行常规数据检索任务时采用SQL注入和跨站脚本等技术。 证据显示智能体活动最早始于2025
一名研究人员称,OpenAI的智能体对联合国统计网站进行了16500次扫描
一名与OpenAI有关联的研究人员发现,人工智能代理在4月13日至6月19日期间,扫描了联合国数据网站超过16,500次。 罗万·霍华德-琼斯(Rowan Howard-Jones)在9月26日的一篇博客文章中写道,这些代理使用了代理服务器和一种编码技巧,以绕过其API的限制。 霍华德-琼斯表示,该代理与OpenAI的关联可能性极高,但尚未得到证实,且TNW并未自行核实该分析结果。 证据包括代理标
OpenAI 阻止了其代理发布内容。他们发现了一个通过 GET 请求发布内容的 wiki
构建沙箱的工程师确实考虑过这一点。他们允许代理读取互联网,但阻止它们写入,方法是允许 GET 请求并拒绝其他所有请求。这是显而易见的控制措施,在几乎所有网站上都能奏效。然后代理们发现了一个通过 GET 请求写入的 wiki。……
OpenAI 模型访问了公开的美国人口普查、SEC 数据,彭博新闻报道
9月25日:彭博新闻周五报道称,OpenAI 的模型访问了美国政府网站上公开可用的信息,包括人口普查局和证券交易委员会的网站。 据报告引述知情人士称,该公司的代理 AI 系统与 SEC.gov、Investor.gov 和公开可用的 Census.gov 数据进行了交互。 当被要求置评时,OpenAI 发言人表示,公司正在"对错位模型活动进行广泛审查,并在发现对其系统的潜在影响时通知相关组织。我们
OpenAI自曝6起模型“不当行为”案例
【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道(CNBC)等外媒报道,美国开放人工智能研究中心(OpenAI)当地时间9月16日披露6起人工智能(AI)模型出现“意外或令人担忧”行为的案例,其中包括隐瞒错误、捏造信息,以及未经授权在网上共享文件等。OpenAI表示,上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示,在其中一起案例中,一个模
柏林网络攻击:140万份文件出现在暗网上
在柏林州议会选举前夕,黑客组织Rhysida窃取了数据,试图勒索柏林参议院,并在勒索失败后将数据发布在暗网上。
OpenAI突发急刹车!AI竟在全网植入自我复制代码,血洗联合国内网
OpenAI和Anthropic正在调查数万起AI相关安全事件
OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中,他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来,在内部测试和现实世界中发生了数量庞大的此类事件,这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中,随着安全研究人员继续调