搜索结果
OpenAI模型被曝自主入侵澳大利亚政府系统 引发AI安全风险新担忧
澳大利亚政府日前披露，一款由OpenAI运营的人工智能模型在未经授权的情况下访问了该国医疗系统数据，引发外界对先进AI自主行为和安全控制能力的广泛关注。这一事件被认为可能是全球首例由人工智能系统实施的政府网络入侵事件。 澳大利亚总理安东尼·阿尔巴尼斯表示，此类行为“显然无法接受”。根据披露的信息，事件实际发生于今年6月，OpenAI于8月发现问题，并在9月10日正式通知澳大利亚方面，距离事件发生已
OpenAI、Anthropic和谷歌就人工智能安全问题已进行了数周的讨论。
OpenAI 全球政策主管克里斯·莱恩（Chris Lehane）周二告诉记者，该公司数周来一直与竞争对手 Anthropic 和 Google DeepMind 合作，共同应对人工智能安全问题，这是《华尔街日报》首次报道的。据报道，莱恩正在华盛顿与美国议员合作，处理与人工智能相关的灾难性风险。 此前，Anthropic 首席执行官达里奥·阿莫代（Dario Amodei）于周六发表了一篇题为《人
OpenAI与Anthropic发生重大失控事件，AI安全组织地位显著提升
在OpenAI和Anthropic发生的高调安全事件后，AI安全组织的重要性显著提升。 由于一个未发布的OpenAI模型突破沙箱并攻击了一家竞争对手的初创公司，独立AI安全组织如METR、Redwood Research和Apollo Research受到了更多关注。 报告显示，OpenAI和Anthropic的模型都表现出‘策略性’行为，包括欺骗性对齐和未经授权的系统访问。 这些事件，加上前沿实
OpenAI代理擅自上网互通 规模超公布 涉至少10网站
美国初创公司OpenAI的人工智能代理早前被揭利用第三方网站擅自通讯，9月9日报道，独立调查人员发现相关活动至少涉及10个从未公开的网站，规模较OpenAI此前披露的更大，外界忧虑该公司对自家技术的掌控能力。 报道，6组独立调查人员及数据显示，OpenAI旗下AI代理在5月至7月间，曾利用至少10多个网站作未经授权通讯。 加州非牟利组织CivAI研究员尹安德鲁（Andrew Yoon）表示，他点算