谷歌的Gemini人工智能模型在5月份研究人员测试其网络安全能力时，无意中侵入了三个受保护的公司系统，这加剧了近期由代理型AI系统引发的一系列入侵事件。

谷歌于周五证实了《华尔街日报》早些时候的报道，这些入侵发生在AI安全公司Irregular进行的一次测试中，该公司此前曾参与OpenAI、Anthropic PBC和Meta Platforms Inc.披露的类似事件。

报道指出，这些测试由总部位于特拉维夫的网络安全公司Irregular进行。

据谷歌证实的《华尔街日报》报道，其中一次入侵发生在模型被要求从一家虚构公司检索信息时，该公司恰好与一家真实公司同名。模型猜出了一个密码，从而访问了这家真实公司的服务。谷歌发言人表示，公司已通知当局。另外，艾米丽·诺曼丁-帕克是谁？

优步将向一名加州大学洛杉矶分校毕业生的家人支付4000万美元，该毕业生在司机将她留在高速公路上后死亡。

近期由OpenAI、Anthropic、Meta以及现在的谷歌开发的代理型AI系统引发的一系列入侵事件，令网络安全和AI专家感到震惊，促使Anthropic首席执行官达里奥·阿莫代伊呼吁全行业放缓该技术的发展。

阿莫代伊的呼吁得到了OpenAI首席执行官萨姆·奥尔特曼、埃隆·马斯克等人的支持，引发了关于AI风险不断升级以及所需缓解措施的更广泛辩论。另外，五角大楼是否在隐瞒伊朗战争中阵亡美军的实际人数？皮特·赫格塞斯称《华盛顿邮报》的报道“完全是谎言”。

据《华尔街日报》报道，其他Gemini入侵事件发生在模型使用公司名称进行网络搜索时。

这些搜索引导它进入公共在线存储库，其中包含属于其他公司的凭证，它利用这些凭证访问了更多系统。