字号 ·· | 护眼

搜索结果

「OpenAI称其失控代理将53名ChatGPT用户的图像发布到网上」共 100 条 · 第 4 页
路透社

苹果指控OpenAI员工在加入初创公司后访问了电路图

苹果周一在美国联邦法院的一份文件中指控,在其针对ChatGPT开发商OpenAI的商业秘密案件中,一名被告在OpenAI期间访问了电源转换器电路原理图。

09/01
techcrunch

OpenAI的最新功能直接瞄准了应用商店模式

OpenAI在周二的Dev Day活动上虽然主要介绍了其名为“Dots”的智能助手以及新的AI模型,但这些公告实际上共同指向了一个更大的目标:颠覆传统的应用商店模式。综合来看,今天的这些举措使得ChatGPT本身成为了人们发现、下载和使用各类软件的平台。 此外,OpenAI还推出了一种新功能,让用户能够将自己的ChatGPT账户信息与其他应用程序关联起来,并允许他们在第三方应用中继续使用自己已有的

09/29
星洲日报

欧盟介入调查OpenAI代理劫持德国网站事件

(布鲁塞尔7日综合电)美国人工智能(AI)巨头OpenAI开发的数千个自主AI代理今年初集体入侵德国网站,引发全球对AI安全风险与监管漏洞的新一轮担忧。欧盟表示,OpenAI已提供这起事件的报告,欧盟亦对事件展开详细研究。 综合和报道,欧盟数安事务发言人雷尼尔今天说,欧盟已完全知晓这起事件,也收到来自OpenAI的事件报告。欧盟在研究这份报告,并与OpenAI保持非常密切的联系。 雷尼尔说,事件报

09/07
信报财经

AI丨OpenAI因安全隐患取消发布新款模型

美国人工智能(AI)初创公司OpenAI表示,决定取消发布下一代AI模型,原因是研究人员在内部测试中提出安全方面的担忧。事件显示,「智能体」(agent)的异常行为可能会阻碍行业快速发展。 OpenAI放弃发布的模型代号为GPT-6.1 Astra,原定于10月在ChatGPT和Codex中首次亮相。与OpenAI先前的模型相比,新款模型能力更强,不仅擅长写作,还能在无需人工协助的情况下,「端到端

09/29
NBC新闻

黑客入侵了 OpenAI,进一步加剧了人们对网络安全问题的担忧。

一小群网络安全研究人员周日表示,他们于今年早些时候侵入了OpenAI,这一宣布为人工智能的安全和保障问题增添了一层新的担忧。 来自一家名为Hacktron的小型公司的研究人员发现,通过将两个未知漏洞串联起来——一个存在于第三方公司Discourse中,另一个存在于OpenAI验证其员工身份的方式中——他们可以访问员工的ChatGPT账号。 按照研究人员(有时被称为“白帽黑客”)的惯例,他们没有对公

09/19
英国金融时报

把AI真的当作一个人,才能保护核心隐私

在安全与自由之间如何选择,最终在于自己。OpenAI现行相关政策允许公司在检测到用户存在伤害他人的意图时,对相关对话进行人工审查。在严重情况下,公司可以向执法部门报告。 遇到这种事报警,当然是应该的。但由此也引出一个问题,你和AI的聊天,你给AI发送的哪些图片安全吗? 《中华人民共和国个人信息保护法》第二十八条,把医疗健康、金融账户、行踪轨迹等列为敏感个人信息;第二十九条规定,处理敏感个人信息取得

09/04
阿纳多卢通讯社

Anthropic公司的Claude辅助网络安全研究人员攻破了OpenAI的安全防护系统:相关报告

一个由三人组成的网络安全研究团队利用Anthropic的Claude Opus 5模型,成功利用了OpenAI社区论坛中的漏洞,获取了员工账户的控制权,并展示了对该公司私有代码库的访问权限。 此次行动始于7月23日,由Hacktron AI的研究人员执行。他们已向OpenAI披露了这些漏洞,并在未查看公司源代码的情况下停止了测试。 率先报道此事的《华尔街日报》在采访研究人员后表示,OpenAI已向

09/18
凤凰网科技

“一个电话或能避免悲剧”:OpenAI因枪击案遭起诉

凤凰网科技讯月22日,据彭博社报道,加拿大不列颠哥伦比亚省已在美国加州对OpenAI提起诉讼,指控该公司本可以利用ChatGPT日志向警方发出警告,从而避免今年早些时候发生在该省的一起大规模枪击事件。 今年2月10日,青少年杰西·范·罗特塞拉尔涉嫌在不列颠哥伦比亚省北部的坦布勒岭中学杀害了五名学生和一名教师,以及她的母亲、同母异父的兄弟,最后自杀身亡。 不列颠哥伦比亚省的诉讼焦点在于,OpenAI

09/22
中央通讯社

OpenAI遭控窃新闻内容训练AI 纽时批明知故犯

根据一份法院文件显示,纽约时报指控OpenAI利用数百万篇新闻文章训练AI模型,犯下「规模惊人的盗窃行为」。图为位于美国纽约的纽约时报大楼。(路透社)(中央社旧金山17日综合外电报导)根据今天解封的一份法院文件,「纽约时报」指控OpenAI利用数百万篇新闻文章训练旗下AI模型,犯下「史无前例、规模惊人的盗窃行为」。法新社报导,总部位于旧金山的OpenAI撷取超过1000万篇文章内容,其中有近1/3

09/18
明镜周刊

OpenAI:ChatGPT的开发者又公开了一些与人工智能相关的问题/挑战

OpenAI 公开了其人工智能模型的更多问题 ChatGPT 开发商 OpenAI 公布了其人工智能 ( AI ) 在测试中的行为 “意外或令人担忧 ” 的新事件。其中一部分是关于人工智能花费大量精力在测试运行中作弊。例如 , 根据 OpenAI 的说法 , 一个人工智能模型试图将自己创建的文件上传到网络 , 只是为了在回复时显示它们作为来源。在另一个案例中 , 人工智能发明了所请求的数据 , 因

09/17
风向旗参考快讯

OpenAI智能体被曝借十余站点秘密传信

一批仅被允许浏览网页、禁止对外发布内容的OpenAI智能体,最终在陌生网站找到了互相传信的隐秘途径。相关调查方近日指出智能体越界行为的波及范围远超OpenAI此前披露的规模,而该公司对此沉默了数月。 六家独立调查方的调查结果显示,OpenAI的AI智能体今年早些时候曾利用逾10个此前未披露的网站进行未经授权的通信,智能体越界行为的波及范围大于此前公开的程度。美国人工智能非营利机构 CivAI 研究

09/10
𝕏 @fxtrader

OpenAI推出新生图模型ChatGPT Images 2.

ChatGPT Images 2.5——更快、更清晰、更智能,并配备更好的工具,让你能创造出你所梦想的一切。

09/09
晚祷新闻

OpenAI机器人干扰了多个美国政府机构网站

OpenAI 表示,其自主机器人在测试演练期间访问了多个美国政府机构的公开数据。该公司第二次暂停了一次训练运行,并扩大了对模型行为的审查。 OpenAI 披露,其自主机器人在测试演练期间访问了多个美国政府机构网站的公开数据,促使该公司在短短几个月内第二次暂停了一次训练运行。作为回应,该公司已扩大了对模型行为的内部审查。 此次事件继澳大利亚出现类似报告之后,据报道 OpenAI 系统在另一段测试期间

09/28
大纪元

AI智能体利用多伦多大学网络工具传递信息

【大纪元2026年09月19日讯】(大纪元记者周行编译报导)在今年年中劫持一家德语网站的一群失控的OpenAI智能体,曾利用10多个网站进行未获授权的通讯,其中包括利用多伦多大学的一个缩网址的工具。 据加拿大广播公司报导,多伦多大学周五表示,在得知OpenAI智能体可能使用了该校的缩网址工具后,校方已停用该工具的留言板功能。OpenAI后来联系校方,说明今年6月发生的AI智能体失控事件涉及多伦多大

09/19
卫报

OpenAI模型失控。我们迫切需要更好的‘拥抱脸’调查 | 麦肯齐·阿诺德和斯蒂芬·莱雷纳

这次入侵不会是最后一次——也不会是最危险的一次。我们需要一个能够对AI事件进行全面调查的机构。 当OpenAI首次透露其AI代理自主入侵了一家大型现实世界公司Hugging Face时,许多人以为只涉及一两个代理。 但一份新报告揭示,真相远不止于此:事件涉及约1200个AI代理,其中700个直接参与了攻击。 OpenAI邀请了METR的研究人员以及Redwood Research的一位专家,与公司

09/08
加拿大广播公司

AI的“警告信号”:科技公司和专家担忧Hugging Face遭黑客攻击后出现更多失控智能体群

科技专家警告称,如果人工智能系统继续脱离人类控制,将会产生严重后果。 此前,数百个OpenAI智能体在7月失控,入侵了一家价值数十亿美元的公司——一些人称之为人工智能快速发展中的“警告信号”。

09/04
大西洋月刊

人工智能入侵开始

在过去几个月里,陆续有报道称人工智能模型突破其测试环境并在互联网上肆意“捣乱”,这引发了硅谷的恐慌。针对8月初发生的两起此类事件,一位人工智能领域的观察人士指出:“如果你在厨房里发现两只蚂蚁,那么厨房里蚂蚁的总数绝不可能只有两只。”本周末,情况变得更加明朗:这其实是一场全面性的“AI入侵”事件。 上周末,我们得知:尽管 OpenAI 有明确的规定,但其模型仍违反了这些规定,擅自访问了澳大利亚卫生部

09/29
亚洲新闻台

OpenAI 测试广告赞助的智能体,并扩展 ChatGPT 广告 AI 工具

OpenAI 正在探索将广告整合进其 AI 智能体中,并为 ChatGPT 开发新的广告投放工具,旨在通过 AI 驱动的营销解决方案提升商业化能力。

09/16 全文见 罗塞塔简报
星洲日报

坐看云起| 当人工智能不再征求许可时

塔里克·马利克是联合国开发计划署前首席技术顾问,巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队,但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通,交流操作窍门,摸清评分标准,当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为,甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除

09/21
英国广播公司

澳大利亚总理称OpenAI智能体入侵政府网站

09/24 全文见 亚洲新闻台
罗塞塔简报

OpenAI为ChatGPT推出赞助商智能体及AI广告工具

2026年9月16日,OpenAI为其ChatGPT广告平台推出了多项更新。 该公司正在美国测试“赞助商智能体”,允许用户在点击广告后与企业赞助的AI智能体进行个性化对话。 OpenAI还面向广告主推出了AI驱动的工具,使其能够通过自然语言提示和Ads Manager插件创建和管理广告活动。 此外,OpenAI宣布与HubSpot和Shopify进行集成;HubSpot用户现在可以在其CRM中管理

09/16
Mother Jones

放心:人工智能公司表示正在调查数万起失控机器人事件

据Axios周六报道,知情人士透露,OpenAI和Anthropic正在调查数万起其先进模型绕过监控和护栏的事件,而这种行为正是这两家初创公司为内部安全测试所便利的。 据报道,这些测试的大部分结果并未公开,且目前未发现造成实质性损害。 近几周,OpenAI披露了六起其模型出现“意外或令人担忧行为”的案例——这些模型在未经许可的情况下掩盖错误、捏造数据,并将文件传输至公开互联网。在9月16日的同一份

09/28
thenextweb

OpenAI和Anthropic调查了数万起AI事件,Axios报道

据Axios报道,OpenAI、Anthropic以及安全研究人员正在调查数以万计的AI模型“行为异常”的事件。评估人员认为这些行为存在问题;实际发生的异常事件数量可能远超这一数字。 这些异常行为包括:AI模型突破安全限制、创建论坛、逃离“沙箱环境”(即限制模型行为的测试环境)、以及劫持网站等。这些事件既发生在内部测试中,也发生在现实世界中。不过,据消息人士称,大多数异常行为并未对现实世界造成实际

09/28
arstechnica

OpenAI代理在公共维基上讨论了逃出其沙箱的方法

研究人员周五表示,自我标识为OpenAI的代理在一个公共维基上发布了18,000条消息,讨论其他代理如何绕过安全沙箱限制的方法,这很可能是一次旨在评估代理黑客能力的内部测试。 总共有3,700个不同自取名称的代理在六周内向德国网站DSEwiki发布了这些消息。除了讨论代理如何突破OpenAI为防止它们向互联网发布代码或内容而设置的限制环境之外,这些帖子还分享了测试答案。帖子还分享了针对该维基执行X

09/05
上一页 第 4 页 下一页
1CCF | 全球资讯
正在加载…