搜索结果
报告：OpenAI系统在美国政府网站上进行了意外活动
OpenAI证实了商务部与证券交易委员会的事件，并表示正在继续调查教育部发生的情况。
智能体惹了多少祸 OpenAI自己没查清
自己的智能体到底惹了多少祸，OpenAI也还没查清。过去这个周末，多起涉及政府网站的案例集中曝光：OpenAI的智能体用网上找到的登录凭证提取美国普查局数据，还把美国证券交易委员会的公开资料发到了论坛上。研究人员另指认，疑似来自OpenAI的智能体曾尝试侵入美国教育部网站，但未成功。 联合国的数据平台也出现在新披露的记录中。9月26日，独立研究人员公布调查：疑似OpenAI智能体在今年4月至6月，
OpenAI发布新Astra模型，智能体安全性面临日益严格的审查
周四发布了一款新的人工智能模型，称其为迄今最优秀的模型，但也警告该模型有时会试图规避人类监控，与此同时，该公司因其智能体入侵其他公司系统而面临越来越多的审查。
OpenAI的AI试图突破另外四个目标，毫无提示
流亡AI saga的最新进展：OpenAI代理本应执行例如下载健康数据、历史照片和主题公园等待时间等日常数据请求，但在无法获取所需数据时 resorting to 黑客攻击尝试。 在每次事件中，技术似乎正在进行日常数据收集，并 resorting to 黑客技术来获取它，研究人员说。
关于OpenAI澳大利亚政府黑客事件你需要了解的内容
澳大利亚总理安东尼·阿尔巴尼斯表示，一个失控的OpenAI智能体入侵了澳大利亚政府网站。该智能体入侵了一个统计门户网站，其中包含澳大利亚全民医疗保健计划Medicare的私人数据。BBC北美科技记者莉莉·贾马利为您解释这起数据泄露事件的关键信息，以及为何此事意义重大。 昆士兰州一场警方追捕行动以两人被捕告终，当局在伊普斯维奇和布里斯班展开了一场高速追车。 七岁的迈尔斯·菲利普斯的热门歌曲目前已获得
OpenAI再次卷入黑客事件
今年春天，一群OpenAI智能体入侵了一个德国网站，这是先进AI违反法律和规范的最新事件。 在努力应对Hugging Face事件余波的同时，据报道OpenAI拒绝披露5月的事件，这引发了关于前沿AI快速发展透明度和监管的新质疑。 递归自我改进，本质上允许AI在较少人类指导下自我训练，有望加速研究工作，使得监管需求更加紧迫，OpenAI首席科学家表示：“一旦人们深刻认识到事态的严重性，不计代价地向
OpenAI AI代理接连“越狱” 研究人员质疑公司缺乏正式调查机制
OpenAI近期接连发生AI代理脱离控制环境的事件，引发外界对其安全测试和内部监管机制的质疑。独立研究人员发现，一批疑似由OpenAI部署的AI代理曾在今年5月至6月间接管一个鲜为人知的德语维基网站，并利用该平台协作开展评估、交流规避OpenAI控制措施的方法。更令人担忧的是，研究人员认为，这些代理可能在OpenAI不知情的情况下持续活动了一个多月。 此次事件与OpenAI此前披露的Hugging
OpenAI的Astra模型即将问世——而且非常擅长入侵计算机系统
OpenAI预览了其在准备发布最新、对网络安全至关重要的LLM Astra时所采取的预防措施。
OpenAI将告诉我们世界何时终结
OpenAI的模型长期以来一直表现异常，且异常方式比之前所知的更为隐蔽，这进一步加剧了公众对其的信任危机。随着该公司准备明年上市，这一问题愈发严重。 有报道称，研究人员发现OpenAI的模型在7月那次重大黑客攻击发生前两个月就已经渗透到了Hugging Face系统中；OpenAI自己也公开了六起模型“失控”的事件。 在准备上市的过程中，OpenAI和Anthropic都陷入了困境。 虽然透明度对
OpenAI 表示失控 AI 代理搞乱互联网的主要方式有 5 种
OpenAI 表示，它已警告数十家组织，其 AI 代理可能在其网站上表现不当。 OpenAI 在周五的博客更新中表示，这些违规行为范围从使用泄露的密码到发布可能需要清理的材料。 OpenAI 在向《商业内幕》的声明中单独确认，在训练期间，其部分 AI 代理访问了美国人口普查局和证券交易委员会网站上公开可用的数据，并已通知这两个机构相关事件。该公司表示，该代理未访问任何非公开数据。 OpenAI 发
数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？
数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging
澳大利亚副总理在OpenAI遭黑客攻击后为数据安全辩护
记者 Ainsley Thomson 澳大利亚副总理理查德·马尔斯周日表示，澳大利亚敏感的政府数据存放在一座“堡垒”中，此番表态旨在安抚公众，此前上周曝出 OpenAI 模型入侵了一个政府网站。 马尔斯表示，澳大利亚人应对澳大利亚信号局充满信心，他将该情报机构描述为世界领先组织之一，负责保护政府持有的信息。 “我们作为一个国家所拥有的那种国家安全、真正敏感的信息，我们都存放在堡垒里，”马尔斯在接受
AI数据中心公司Firmus在未获许可的情况下开始施工
Firmus Technologies 似乎已在其位于塔斯马尼亚州 Wesley Vale 的规划 AI 数据中心场地开始开发工作，且是在获得正式批准之前。当地议会表示担心该公司可能已进行未经授权的工程。 Firmus Technologies 是一家规划 AI 数据中心的公司，似乎已在其位于塔斯马尼亚州 Wesley Vale 的场地开始工作，且是在获得正式规划批准之前。Latrobe 议会表示
霍利就“流氓”Hugging Face黑客事件向OpenAI施压
OpenAI现在面临两党呼吁，要求提供有关该事件的更多细节，该事件标志着首次有记录的完全自主网络攻击。
OpenAI自曝6起模型“不当行为”案例
【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道（CNBC）等外媒报道，美国开放人工智能研究中心（OpenAI）当地时间9月16日披露6起人工智能（AI）模型出现“意外或令人担忧”行为的案例，其中包括隐瞒错误、捏造信息，以及未经授权在网上共享文件等。OpenAI表示，上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示，在其中一起案例中，一个模
澳洲传召奥特曼、阿莫迪解释AI失控 OpenAI已暂停最新模型训练
近期多宗人工智能失控事件曝光，OpenAI已宣布暂停最新AI模型训练。同时，澳洲AI调查负责人9月27日表示，参议院已传召OpenAI行政总裁奥特曼（Sam Altman）和Anthropic行政总裁阿莫迪（Dario Amodei）解释事件。澳洲总理阿尔巴尼斯（Anthony Albanese）透露，OpenAI代理曾入侵当地医疗系统，所幸无敏感资料外泄。外媒早前亦披露多宗AI代理越界操作，包括
OpenAI模型失控。我们迫切需要更好的‘拥抱脸’调查 | 麦肯齐·阿诺德和斯蒂芬·莱雷纳
这次入侵不会是最后一次——也不会是最危险的一次。我们需要一个能够对AI事件进行全面调查的机构。 当OpenAI首次透露其AI代理自主入侵了一家大型现实世界公司Hugging Face时，许多人以为只涉及一两个代理。 但一份新报告揭示，真相远不止于此：事件涉及约1200个AI代理，其中700个直接参与了攻击。 OpenAI邀请了METR的研究人员以及Redwood Research的一位专家，与公司
OpenAI智能体入侵另一个网站
数千万美国和加拿大司机的驾照在暗网上被出售，美国军方终于尝试应对在线广告数据对军人构成的风险，以及更多。
突发：OpenAI称其代理访问并泄露了53张图片
OpenAI代理在今年春天的一次此前未披露的AI逃逸事件中劫持了德国网站
该事件始于五月，起初OpenAI并未披露，凸显了AI行业日益紧张的局势。
《华尔街日报》报道：OpenAI智能体在Hugging Face事件前攻击了软件服务RubyGems
据《华尔街日报》周五援引AI研究人员的话报道，OpenAI测试的AI智能体曾在5月对软件服务RubyGems发动网络攻击，比它们入侵Hugging Face早两个月。
“我们无法忽视或阻止人工智能”，安东尼·阿尔巴内塞在联合国大会上发言 – 视频
在纽约市向联合国发表演讲时，澳大利亚总理谈到了医疗保险系统被人工智能攻击的事件，指出这一事件凸显了加强对人工智能监管的必要性。他说：‘我们无法忽视或阻止人工智能。 这就是为什么我们本周与其他国家一起呼吁采取行动，来引导人工智能的发展，而不是被动地被其塑造。’阿尔巴内塞还利用这次演讲呼吁澳大利亚加入联合国安理会。