搜索结果
四大AI模型遭遇罕见的重叠停机
周四上午的数小时内遭遇了罕见且重叠的重大服务中断。 Anthropic首先报告了与“Claude Mythos 5.1、Claude Fable 5.1和Claude Opus 5请求错误率升高”相关的“部分中断”,时间为上午23点(均为东部时间)。该公司在大约15分钟后报告称已“确定错误原因”,随后报告“已部署修复”,问题在下午16点前得到解决。另一份事件报告显示,刚过中午,“Claude So
OpenAI承认其开发的智能代理系统又出现了六次异常行为(即系统行为失控的情况)。
OpenAI公布了另外六个其AI软件表现异常或做出危险行为的案例。该公司在周三晚间(太平洋时间)将这些事件添加到其“误差报告”页面,并将其描述为: 在压缩摘要中自生成提示注入 在压缩摘要中鼓励欺骗 为一次性电子邮件生成并搜索GitHub泄露的I密钥 上传文件到互联网以引用它们 未授权的Artifactory写入和跨样本通信 通过临时文件托管服务进行未授权通信细节令人不安。列表中的第一个事件,例如,
OpenAI的人工智能在未经提示的情况下试图入侵另外4个目标
凯特·康格和维多利亚·金报道,OpenAI的人工智能在2026年自主试图入侵多个政府和大学网站,包括一个澳大利亚卫生门户网站,以便在常规数据收集失败时获取数据。 这些事件发生在AI初创公司Hugging Face已知的入侵事件之前,凸显了AI代理在没有直接人类指令的情况下行动所带来的持续风险。 这些事件加剧了要求更严格AI监管的呼声,OpenAI正在调查并与受影响实体合作,同时强调AI开发中安全和
安东尼·阿尔巴尼斯称OpenAI代理入侵Medicare,并向萨姆·奥特曼表达“极度关切”
安东尼·阿尔巴尼斯透露,由OpenAI开发的人工智能代理于6月入侵了Medicare。 总理在纽约联合国峰会上发表上述言论,称似乎没有个人信息被访问——尽管调查仍在进行中。阿尔巴尼斯表示:“尽管如此,这种情况显然是不可接受的。” “今天,我与OpenAI首席执行官萨姆·奥特曼通话,表达澳大利亚对这一事件的极度关切。” “我还表达了我的失望,因为该公司花费太长时间才通知政府发生了什么。” 阿尔巴尼斯
OpenAI公布了六起新的与人工智能安全相关的事故/事件。
OpenAI周三披露了六起新事件,其中其模型隐藏错误、寻求未经授权的凭据,将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是,拥抱脸事件并不是一次性事件,因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架,所以我们自愿采取这一步骤,因为我们认为分享我们正在学习的东西非常
OpenAI披露新的AI不当行为案例
OpenAI公布了六起此前未报告的AI不当行为案例,包括代理隐藏错误、伪造信息以及未经授权进行通信,这再次引发了人们对先进AI系统是否能够与人类目标保持一致的担忧。 随着关于监管的争论加剧,该公司呼吁提高透明度、加强外部监督,并放缓AI的发展速度。
与OpenAI相关的AI智能体尝试黑客攻击政府及公共数据网站
。 Transluce及其他机构的研究人员发现证据表明,自主AI智能体(部分与已知的OpenAI集群相关)在2026年5月至6月期间试图攻击三家公共数据提供商。 目标包括澳大利亚健康与福利研究所(政府机构)、Data USA以及新墨西哥大学数字图书馆。 这些智能体利用urlquery.net服务绕过限制,并在执行常规数据检索任务时采用SQL注入和跨站脚本等技术。 证据显示智能体活动最早始于2025
OpenAI模型访问了美国政府数据并'试图入侵另一个网站'
OpenAI自曝AI“黑历史” 外人却又翻出更多“旧账”
OpenAI决定持续披露AI“越界”事件,但第一步就碰上了难题。9月16日,OpenAI一口气公布六份模型异常行为报告,并推出一套新的调查和披露流程。以后,员工发现模型越权、隐瞒或绕过限制,可以提交调查;符合条件的案例,将按复杂程度进入不同的披露轨道。 同一天,SentinelLABS和外部研究人员从Hugging Face的公开记录中,补出了OpenAI智能体今年5月留下的更多痕迹。OpenAI
OpenAI揭6起AI失控案例 推新机制定期对外通报
(中央社纽约16日综合外电报导)OpenAI今天表示,将开始定期发布AI异常或未经授权行为的报告,同时警告,随著AI系统日益强大,业界至今仍未解决关键的「对齐」挑战。 综合与报导,OpenAI发布一套新机制,用于追踪、调查并揭露AI模型「目标错位」(misalignment,AI的目标与人类价值不一致)的案例,同时公布过去半年内观察到的6起AI模型异常或令人忧虑行为的报告。 其中最严重的案例涉及2
AI数据中心公司Firmus在未获许可的情况下开始施工
Firmus Technologies 似乎已在其位于塔斯马尼亚州 Wesley Vale 的规划 AI 数据中心场地开始开发工作,且是在获得正式批准之前。当地议会表示担心该公司可能已进行未经授权的工程。 Firmus Technologies 是一家规划 AI 数据中心的公司,似乎已在其位于塔斯马尼亚州 Wesley Vale 的场地开始工作,且是在获得正式规划批准之前。Latrobe 议会表示
评论:一个OpenAI智能体入侵了澳大利亚政府的健康数据门户。会有人被追究责任吗?
墨尔本:澳大利亚的“Medicare”医疗系统负责管理超过2700万人的健康和医疗数据。因此,当传出该系统在6月份被OpenAI开发的智能程序入侵的消息时,公众普遍感到震惊。 总理安东尼·阿尔巴内塞于9月23日在纽约联合国会议上呼吁加强对人工智能(AI)系统的国际监管时,公开了这一事件。 政府仍在调查具体发生了什么,为此专门成立了一个工作组进行进一步调查。初步报告显示,该智能程序原本被用于研究公共
加拿大一省因坦布勒岭大规模枪击事件起诉OpenAI
加拿大某省份正在起诉 OpenAI,指控该公司在 Tumbler Ridge 大规模枪击案发生前,未能及时向有关部门报告用户在使用 ChatGPT 时产生的可疑行为。 此前,OpenAI 曾表示歉意,称在 18 岁的杰西·范·鲁特塞拉尔(Jessie Van Rootselaar)于 2 月份杀害 8 人(其中包括 6 名儿童)之前,该公司未能将该用户的账户信息通报给执法部门。 不列颠哥伦比亚省总
工党被指将创意工作者“置于险境”,提议放宽对AI巨头的版权保护
随着ChatGPT的创造者OpenAI的高层人员会见阿尔巴尼斯政府部长,一项妥协方案被披露。 关注我们的澳大利亚新闻实时博客,获取我们的新政治邮件、免费应用或每日新闻播客。 阿尔巴尼斯政府正在考虑默认允许AI公司访问澳大利亚创意工作者的作品,以寻求与美国科技巨头达成妥协。 这些提议是在ChatGPT的创造者OpenAI的高层人员会见工党部长时披露的,他们警告称,澳大利亚的版权法阻碍了该公司在当地训