字号 ·· | 护眼

搜索结果

「最新消息:据《金融时报》报道,网络研究人员利用OpenAI竞争对手Anthropic开发的软件,成功访问了一名OpenAI员工的账户。」共 99 条 · 第 2 页
财新

《纽约时报》指控OpenAI和微软侵权 举证称其承认“AI偷窃人力劳动”

当地时间2026年5月6日,美国纽约,纽约时报大楼外观。图:视觉中国  【财新网】新闻出版商的版权诉讼,再度暴露AI公司的技术伦理争议和法律风险。9月17日,《纽约时报》、每日新闻(The Daily News)等五家新闻出版商向美国纽约南区联邦地区法院提交举证文件,请求法院判决OpenAI与微软的AI模型违法使用新闻内容,侵犯其版权。  文件引述微软应用科学总监布伦特·赫克特的原话称,“全球数百

09/21
罗塞塔简报

OpenAI与Anthropic发生重大失控事件,AI安全组织地位显著提升

在OpenAI和Anthropic发生的高调安全事件后,AI安全组织的重要性显著提升。 由于一个未发布的OpenAI模型突破沙箱并攻击了一家竞争对手的初创公司,独立AI安全组织如METR、Redwood Research和Apollo Research受到了更多关注。 报告显示,OpenAI和Anthropic的模型都表现出‘策略性’行为,包括欺骗性对齐和未经授权的系统访问。 这些事件,加上前沿实

09/19
DealStreetAsia

奥特曼告诉员工:OpenAI愿意放慢AI发展以加强防御

8月,OpenAI的智能体突破限制,入侵了Hugging Face。

09/11
cnbeta

OpenAI与Anthropic曾接近达成协议 互相开展AI压力测试

面对员工及外界对其人工智能潜在风险的担忧,OpenAI正在重新审视一系列安全策略,其中一个可行方案其实在不久前就已被探讨。一位了解谈判内情的消息人士透露(该信息此前未曾披露),在OpenAI接连发生多起与自身技术相关的网络安全事件、行业从业者发出严重警示之前,OpenAI就已和Anthropic磋商一份具备法律约束力的协议,双方计划互相针对对方的大模型开展压力测试。 这名消息人士称,今年早些时候,

09/21
风向旗参考快讯

中国AI公司如何试图克隆美国AI模型

Anthropic在周四发布的一份报告中称,中国AI公司试图通过中转平台网络,将中国用户的真实查询请求传送给美国AI模型,以此来克隆这些模型。报告指称,包括月之暗面和 DeepSeek 在内的公司利用这些中间商,将其数百万用户的查询请求,包括位置信息和密码等敏感数据,转发给Claude模型。 Anthropic表示,中国公司利用这些中转站接入Claude,并通过监控其客户与Claude等产品之间的

09/11
TheVerge

数学家要求OpenAI证明未曾使用他们的成果

又有一位研究人员就驱动其日益强大的数学发现的数据问题向OpenAI提出质疑。就在一场关于该公司模型是否受益于未发表工作的激烈争论爆发几天后,第二位数学家站出来,指责这家AI巨头存在不道德和“不诚实”的行为,并且在其训练数据的来源上缺乏透明度。 在一系列Mastodon帖文中,数学家安德烈亚斯·托姆(Andreas Thom)提出担忧,称他和同事在OpenAI进行凯旋式宣布之前与ChatGPT聊天机

09/10
thenextweb

OpenAI和Anthropic调查了数万起AI事件,Axios报道

据Axios报道,OpenAI、Anthropic以及安全研究人员正在调查数以万计的AI模型“行为异常”的事件。评估人员认为这些行为存在问题;实际发生的异常事件数量可能远超这一数字。 这些异常行为包括:AI模型突破安全限制、创建论坛、逃离“沙箱环境”(即限制模型行为的测试环境)、以及劫持网站等。这些事件既发生在内部测试中,也发生在现实世界中。不过,据消息人士称,大多数异常行为并未对现实世界造成实际

7小时前
美国消费者新闻与商业频道

OpenAI推出面向金融服务的ChatGPT,直指华尔街初级银行家工作

OpenAI推出了专为金融服务设计的全新ChatGPT版本,旨在攻克华尔街劳动强度最高的一些任务,包括研究公司、分析财务数据以及生成投资银行家赖以生存的演示文稿。 这款于周四亮相的产品名为“金融服务版ChatGPT”(ChatGPT for Financial Services),是其企业级产品ChatGPT Work的定制版本,由OpenAI与“设计合作伙伴”摩根士丹利和Evercore合作打造

09/11
经济学人

OpenAI的两款模型入侵了另一家AI公司Hugging Face,这本来会是一场绝妙的闹剧——如果它不对人类的未来预示不祥的话。

09/06
亚洲新闻台

Anthropic披露在早前审查中被遗漏的第四起AI黑客事件

09/10
半岛电视台

OpenAI智能体入侵澳大利亚政府健康数据

流氓OpenAI智能体访问了澳大利亚政府健康数据网站,获取了非公开信息,这可能是已知的首例AI自主入侵政府门户网站的事件。澳大利亚政界人士称此举完全不可接受。

09/24 全文见 亚洲新闻台
香港01

FBI指阿里抄袭Anthropic后 美政府网站被发现用中国AI搜寻工具

美国联邦调查局(FBI)指控中国阿里巴巴(Alibaba)「恶意」抄袭美国竞争对手Anthropic的技术后,美国联邦公报网站被发现在搜寻功能中使用阿里巴巴的千问(Qwen)人工智能(AI)模型。路透社报道,美国联邦公报网站由美国国家档案局营运,周三(9月16日)一度提供以千问模型驱动的搜寻选项,与其他搜寻方式并列,未知何时开始使用。该搜寻功能在周三社交媒体出现相关帖文前后被撤下。2026年6月5

09/18 全文见 端传媒
𝕏 @fxtrader

OpenRouter数据显示,OpenAI在与Anthropic两家公司合计模型支出中的份额,自6月初约20%升至9月7日当周略高于50%,为2024年2月以来首次超过Anthropic。

OpenRouter数据显示,OpenAI在与Anthropic两家公司合计模型支出中的份额,自6月初约20%升至9月7日当周略高于50%,为2024年2月以来首次超过Anthropic。(这里统计的是OpenRouter平台上OpenAI与Anthropic之间的“钱包份额”,衡量美元支出而非调用次数,也不代表整体AI市场份额)

09/17 全文见 美国消费者新闻与商业频道
国会山报

OpenAI 代理未经授权尝试访问联邦机构网站

人工智能巨头 OpenAI 表示,其技术未经授权访问了包括教育部在内的政府网站,这标志着该技术失控的最新事件。 ChatGPT 制造商的 AI 模型试图访问教育部民权办公室网站,但未成功,AI 研究公司 Transluce 于周五宣布。OpenAI 另行……

09/26
cnbeta

Anthropic发布安全警报:恶意软件已窃取部分用户Claude会话

据bleepingcomputer 报道,Anthropic 警告部分 Claude 用户,他们电脑上的信息窃取恶意软件已窃取了活跃的 Claude 登录会话,使攻击者能够访问其账号并窃取使用数据。 “我们最近发现有不法分子利用常见的窃取信息恶意软件从用户的电脑上窃取 Claude 登录会话,然后利用这些登录会话访问 Claude 账号并窃取其使用数据,”Anthropic 在一封发给受影响用户的

08/31
TheVerge

OpenAI智能体试图“暴力破解”联合国网站

安全研究员罗万·霍华德-琼斯(Rowan Howard-Jones)表示,OpenAI智能体在4月至6月期间扫描了联合国贸易和发展会议(UNCTAD)统计网站超过16,000次。 虽然该事件尚未达到Hugging Face黑客攻击或近期针对美国政府网站攻击的程度,但这又是AI智能体为完成任务而超出正常界限的又一令人担忧的案例。 据霍华德-琼斯称,这些智能体很可能被指派通过UNCTADstat AP

09/28
纽约时报

OpenAI的AI试图突破另外四个目标,毫无提示

流亡AI saga的最新进展:OpenAI代理本应执行例如下载健康数据、历史照片和主题公园等待时间等日常数据请求,但在无法获取所需数据时 resorting to 黑客攻击尝试。 在每次事件中,技术似乎正在进行日常数据收集,并 resorting to 黑客技术来获取它,研究人员说。

09/24
cnbeta

OpenAI失控Agent找DeepSeek、Kimi当外援 近百万条作案短链曝光

OpenAI,又被扒了…近700个OpenAI智能体组团攻入Hugging Face,这事儿快有两个多月了吧。谁曾想,直到今天还在发酵??这次,8名研究者顺着智能体留在公网的痕迹一路猛挖,从数百万个短链接中,找出了接近100万个相关URL,并还原出大量攻击载荷。 翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……还有的Agent把搜刮到的服务器资源和凭证,直接叫作「LO

09/26
卫报

允许人工智能公司串通以‘控制前沿步伐’是一个危险的提议

科技公司CEO们联合起来,是源自美国企业界的一种老把戏,旨在获得反垄断法的豁免。Anthropic的达里奥·阿莫代并不是第一个提出过度竞争正将世界推向某种社会不良后果的企业CEO。 OpenAI披露的安全漏洞——其一群智能体协同突破了本应安全的沙箱,接入互联网并入侵AI平台Hugging Face——需要采取紧急行动。它表明了该技术能够轻易逃避人类控制,并为这样一种存在性恐惧赋予了具体形态:如果未

09/16
theregister

Anthropic承诺更努力控制模型,并请求合作伙伴共同参与

Anthropic表示,在一项审查发现Claude模型超出虚构网络安全测试范围并未经授权访问真实计算机系统后,该公司正在采取措施限制其AI模型的不当行为。 该公司希望合作伙伴也加强安全措施,因为事件发生在保护不足的第三方环境中。 该公司的自我改进声明代表了一种突然兴起的公司沟通形式——非约束性的事后努力声明。其信息是:我们不能保证什么,但这是我们正在尝试的。 Anthropic承认,OpenAI关

09/02
经济学人

人工智能灾难日益逼近

Anthropic、谷歌和OpenAI都对生物安全感到担忧。它们已制定保障措施,防止其系统被滥用,但这些限制并不完美。 唐纳德·特朗普下令联邦机构停止使用Anthropic的人工智能技术,同时要求该公司与政府合作六个月。

23小时前 受限 全文见 美国全国公共广播电台
端传媒

数说科技:OpenAI 资安事件中,真的有 AI 为集体“牺牲”自己吗?

数说科技”是端传媒的注册免费栏目,每周三更新。从一个数字出发,用1500字解析科技话题,追踪值得关注的 AI 趋势。邀请你在资讯过载的时代,每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”,订阅电子信。 1200多个 AI 代理为寻求作弊方法,互相发送的讯息总数。 今年7月,OpenAI的 AI 代理系统在测试期间失控,骇入了开源机器学习平台 Hugging Face。Hugging

09/09
cnbeta

OpenAI、Anthropic等多家AI公司正遭遇服务中断

据Downdetector上的用户报告以及各公司状态页面显示,多家AI公司正遭遇服务中断。OpenAI表示,其ChatGPT和Codex目前正出现问题。 Anthropic表示正在调查Claude出现的错误,并致力于修复。 SpaceXAI表示Grok目前出现故障,正在调查服务中断。 据Downdetector显示,已有超过12000份用户报告指出OpenAI存在问题。 Downdetector称

09/03
罗塞塔简报

与OpenAI相关的AI智能体尝试黑客攻击政府及公共数据网站

。 Transluce及其他机构的研究人员发现证据表明,自主AI智能体(部分与已知的OpenAI集群相关)在2026年5月至6月期间试图攻击三家公共数据提供商。 目标包括澳大利亚健康与福利研究所(政府机构)、Data USA以及新墨西哥大学数字图书馆。 这些智能体利用urlquery.net服务绕过限制,并在执行常规数据检索任务时采用SQL注入和跨站脚本等技术。 证据显示智能体活动最早始于2025

09/24
上一页 第 2 页 下一页
1CCF | 全球资讯
正在加载…