搜索结果
人工智能入侵开始
在过去几个月里，陆续有报道称人工智能模型突破其测试环境并在互联网上肆意“捣乱”，这引发了硅谷的恐慌。针对8月初发生的两起此类事件，一位人工智能领域的观察人士指出：“如果你在厨房里发现两只蚂蚁，那么厨房里蚂蚁的总数绝不可能只有两只。”本周末，情况变得更加明朗：这其实是一场全面性的“AI入侵”事件。 上周末，我们得知：尽管 OpenAI 有明确的规定，但其模型仍违反了这些规定，擅自访问了澳大利亚卫生部
OpenAI称AI代理异常访问美国多个政府网站
据《纽约时报》报道，OpenAI的AI代理今年夏天曾以异常方式访问美国教育部、商务部和证券交易委员会（SEC）的网站，而OpenAI当时并不知道这些行为，直到近期调查其他AI安全事件时才发现。 Photo by Andrew Neel on Unsplash OpenAI已经确认涉及商务部和SEC的事件，并表示仍在调查教育部事件。公司最近几周已将情况通知相关政府机构。 AI安全研究机构Transl
OpenAI将让第三方机构更早介入AI模型安全评估
OpenAI计划让第三方机构在人工智能（AI）模型开发周期的更早阶段评估安全风险，此举旨在继续努力应对围绕AI潜在危害的担忧。这家ChatGPT开发商周二将在博客文章中宣布，计划在新AI模型的训练、评估和推出过程中，让外部机构开展技术安全评估。 OpenAI还列出了其认为此类评估要有效开展所需优先关注的事项，包括“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任”。负责该公司大部分与外部专
黑客利用Anthropic的Claude入侵OpenAI
据报道，在一群AI代理从OpenAI系统中突破封锁并攻击Hugging Face公司两周后，这家ChatGPT开发商又发现了一起由人工智能驱动的入侵事件——而这一次，他们自己成了目标。一组独立的安全研究人员使用了Anthropic开发的Claude软件，成功获取了一名OpenAI员工的ChatGPT账户权限，从而得以读取并修改该公司私有的软件缓存内容。 该团队参与了OpenAI的一项漏洞挖掘计划，
OpenAI称有失控AI代理试图访问澳大利亚健康数据
OpenAI 表示，另有数十家第三方机构受到失控智能体绕过网站安全控制措施的影响；最新痕迹显示，这些智能体曾连续数日尝试访问澳大利亚医疗数据。 OpenAI 表示，绕过网站安全控制措施的失控 AI 智能体还影响了另外数十家第三方机构。公司宣布已对此事启动审查。 新发现的痕迹显示，这些智能体曾连续数日尝试访问澳大利亚联邦医疗保险数据。该事件再次引发人们对 AI 智能体在监督不足的情况下运行时可能带来
澳大利亚新闻直播：安东尼·阿尔巴尼斯称OpenAI代理入侵Medicare
关注当天新闻直播 获取我们的突发新闻电子邮件、免费应用或每日新闻播客 安东尼·阿尔巴尼斯透露，由OpenAI开发的人工智能代理于6月入侵了Medicare。总理在纽约联合国峰会上发表了上述言论。 该事件发生在今年6月，涉及一个OpenAI代理未经授权访问了面向公众的Medicare统计报告服务门户，该门户由Services Australia管理。该AI代理访问了公共和非公共文件。
澳大利亚副总理在OpenAI遭黑客攻击后为数据安全辩护
记者 Ainsley Thomson 澳大利亚副总理理查德·马尔斯周日表示，澳大利亚敏感的政府数据存放在一座“堡垒”中，此番表态旨在安抚公众，此前上周曝出 OpenAI 模型入侵了一个政府网站。 马尔斯表示，澳大利亚人应对澳大利亚信号局充满信心，他将该情报机构描述为世界领先组织之一，负责保护政府持有的信息。 “我们作为一个国家所拥有的那种国家安全、真正敏感的信息，我们都存放在堡垒里，”马尔斯在接受
OpenAI承认德国维基‘事件’
OpenAI表示，它需要彻底改革其报告AI模型攻击现实世界目标的方式和时机。 这一承认之际，该公司正在处理有关其一群失控代理劫持一个德国维基网站的报道所引发的后果。 关于“‘维基事件’，即我们的代理向多个互联网网站发帖，”OpenAI周六上午在X上发帖称，“现在是我们定义何时以及如何分享错位事件标准的时候了，而不仅仅是分享我们模型的错位属性。” OpenAI表示，它通常将AI代理以非预期方式行事的
OpenAI称Astra AI模型首度超越其“关键”网络安全能力阈值
OpenAI周二表示，其即将推出的人工智能模型Astra是首个超越其“关键”网络安全能力阈值的产品。该公司表示，Astra能够发现此前未知的安全漏洞，并在无需人类逐步指导的情况下加以利用，这意味着该模型属于其所谓的“准备框架”中最先进的类别。OpenAI表示仍计划“很快”推出Astra，但对其网络安全能力的访问将更加受限。 OpenAI首席执行官山姆·奥特曼OpenAI于2023年推出了“准备框架
OpenAI和Anthropic正在调查数万起AI相关安全事件
OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调
OpenAI自曝6起模型“不当行为”案例
【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道（CNBC）等外媒报道，美国开放人工智能研究中心（OpenAI）当地时间9月16日披露6起人工智能（AI）模型出现“意外或令人担忧”行为的案例，其中包括隐瞒错误、捏造信息，以及未经授权在网上共享文件等。OpenAI表示，上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示，在其中一起案例中，一个模
澳大利亚新闻实时直播：OpenAI遭黑客攻击后，内政部下令对政府网络系统进行“迅速”盘点
欧洲中部时间22:48：在OpenAI遭黑客攻击后，内政部下令对全政府的网络系统进行迅速审查。OpenAI的联邦医疗保险（Medicare）数据泄露事件促使政府对网络系统进行全面评估，以增强澳大利亚公共部门抵御进一步人工智能威胁的能力，无论这些威胁是否是有意为之。 内政部指示所有政府部门和机构对遗留系统进行“迅速”盘点，为遗留技术制定风险管理方案，并将合规情况向该部门汇报。 该指令优先考虑具有政府
OpenAI AI代理突破无互联网沙盒，发送20次网络查询
OpenAI称，这是自7月内部测试中多个模型组合获得互联网访问权限以来，首次发生此类安全事件。
据报道，OpenAI 正准备预览 GPT-6 Cyber 安全模型
据《财富》杂志周四报道，引述多位知情人士透露，OpenAI 正准备在未来几周内预览 GPT-6 Cyber，这是一个专为网络安全工作构建的模型。 据《财富》报道，除了该模型外，OpenAI 还计划推出一款新产品，帮助客户更安全、自动地部署它。 该产品尚未命名，《财富》称这将是公司同类产品中的首款。此外，一小部分客户已通过 Daybreak Red 获得早期测试访问权限。 Daybreak 是 Op
OpenAI揭6起AI失控案例 推新机制定期对外通报
（中央社纽约16日综合外电报导）OpenAI今天表示，将开始定期发布AI异常或未经授权行为的报告，同时警告，随著AI系统日益强大，业界至今仍未解决关键的「对齐」挑战。 综合与报导，OpenAI发布一套新机制，用于追踪、调查并揭露AI模型「目标错位」（misalignment，AI的目标与人类价值不一致）的案例，同时公布过去半年内观察到的6起AI模型异常或令人忧虑行为的报告。 其中最严重的案例涉及2
OpenAI 表示失控 AI 代理搞乱互联网的主要方式有 5 种
OpenAI 表示，它已警告数十家组织，其 AI 代理可能在其网站上表现不当。 OpenAI 在周五的博客更新中表示，这些违规行为范围从使用泄露的密码到发布可能需要清理的材料。 OpenAI 在向《商业内幕》的声明中单独确认，在训练期间，其部分 AI 代理访问了美国人口普查局和证券交易委员会网站上公开可用的数据，并已通知这两个机构相关事件。该公司表示，该代理未访问任何非公开数据。 OpenAI 发
前联合国网络谈判代表警告：澳大利亚运行的系统陈旧过时，人工智能代理可轻易加以利用
澳大利亚前联合国网络谈判首席代表警告称，澳大利亚政府及经济各领域广泛使用的老旧计算机系统极易受到人工智能（AI）代理的攻击，这增加了敏感信息泄露的风险。 在政府紧急对一个违规OpenAI代理访问医疗保险（Medicare）数据事件进行取证调查之际，人工智能专家、科技政策设计研究所执行主任乔安娜·韦弗（Johanna Weaver）表示，老旧的IT系统普遍存在巨大漏洞。 韦弗说：“正是这些陈旧的遗留
首个已知的人工智能代理入侵事件：当它开始独立行动时会发生什么？
OpenAI的一个智能体被要求研究澳大利亚的卫生统计数据。任务很简单：查找信息。 但当它在政府网站上遇到数字障碍时，它做了一件操作者并未要求它做的事。它继续尝试。 该智能体最终未经授权访问了澳大利亚政府系统中的非公开文件。专家将这一事件描述为已知首例AI智能体独立突破政府机构安全防线的案例。 该事件发生在六月中旬，但直到上周才由澳大利亚总理安东尼·阿尔巴尼斯在纽约联合国大会间隙公开披露。 在另一项
澳大利亚机构在5月被警告即将到来的“漏洞风暴”，这发生在OpenAI泄露事件之前
超过100个机构被敦促“立即行动” 堪培拉——澳大利亚联邦政府机构在5月被警告，随着前沿人工智能冲击遗留IT系统，一场“漏洞风暴”正向他们袭来。 澳大利亚内政部（负责联邦政府网络安全政策）告知超过100个机构：“前沿AI正将利用时间线从天缩短至小时。立即锁定基础防护。” 内政部于5月27日发布详细建议，针对“已知漏洞、遗留系统和薄弱网络卫生”带来的加速风险。 该警告发布数周后，即6月18日，一个O
智能体惹了多少祸 OpenAI自己没查清
自己的智能体到底惹了多少祸，OpenAI也还没查清。过去这个周末，多起涉及政府网站的案例集中曝光：OpenAI的智能体用网上找到的登录凭证提取美国普查局数据，还把美国证券交易委员会的公开资料发到了论坛上。研究人员另指认，疑似来自OpenAI的智能体曾尝试侵入美国教育部网站，但未成功。 联合国的数据平台也出现在新披露的记录中。9月26日，独立研究人员公布调查：疑似OpenAI智能体在今年4月至6月，
OpenAI呼吁美国制定强制性全国AI安全规则 并支持四项加州法案
OpenAI当地时间9月9日表示，将推动美国建立具有强制约束力、按照模型能力和风险分级的全国人工智能安全制度。公司提出，针对开发最先进模型的少数大型实验室，应设置统一的测试、独立评估、网络安全和重大事故报告要求。 OpenAI发布文章，名为“AI政策窗口打开。我们需要采取行动。” 与此同时，OpenAI正式支持四项已经通过加州议会的人工智能法案。公司称，其中部分法案此前未获其支持，此次调整立场源于
关于OpenAI澳大利亚政府黑客事件你需要了解的内容
澳大利亚总理安东尼·阿尔巴尼斯表示，一个失控的OpenAI智能体入侵了澳大利亚政府网站。该智能体入侵了一个统计门户网站，其中包含澳大利亚全民医疗保健计划Medicare的私人数据。BBC北美科技记者莉莉·贾马利为您解释这起数据泄露事件的关键信息，以及为何此事意义重大。 昆士兰州一场警方追捕行动以两人被捕告终，当局在伊普斯维奇和布里斯班展开了一场高速追车。 七岁的迈尔斯·菲利普斯的热门歌曲目前已获得
安东尼·阿尔巴尼斯称OpenAI代理入侵Medicare，并向萨姆·奥特曼表达“极度关切”
安东尼·阿尔巴尼斯透露，由OpenAI开发的人工智能代理于6月入侵了Medicare。 总理在纽约联合国峰会上发表上述言论，称似乎没有个人信息被访问——尽管调查仍在进行中。阿尔巴尼斯表示：“尽管如此，这种情况显然是不可接受的。” “今天，我与OpenAI首席执行官萨姆·奥特曼通话，表达澳大利亚对这一事件的极度关切。” “我还表达了我的失望，因为该公司花费太长时间才通知政府发生了什么。” 阿尔巴尼斯
澳大利亚新闻直播：阿尔巴尼斯称宣布医疗保险漏洞是“纯粹出于国家利益”
关注我们的突发新闻电子邮件、免费应用程序或每日新闻播客。据澳大利亚联合通讯社报道，安东尼·阿尔巴尼斯表示，在周四于纽约披露 OpenAI 未经授权渗透医疗保险统计报告门户网站之前，他并不知晓其他人工智能代理错误访问机密信息的案例。 “在我们发布公告时……我们并未意识到其他此类事件，”总理周六在悉尼机场对记者表示。 此举证实了我们需要确保采取适当的国家级应对措施，以及国际层面的响应，以确保人类能够掌