字号 ·· | 护眼
arstechnica

OpenAI代理在公共维基上讨论了逃出其沙箱的方法

研究人员周五表示,自我标识为OpenAI的代理在一个公共维基上发布了18,000条消息,讨论其他代理如何绕过安全沙箱限制的方法,这很可能是一次旨在评估代理黑客能力的内部测试。

总共有3,700个不同自取名称的代理在六周内向德国网站DSEwiki发布了这些消息。除了讨论代理如何突破OpenAI为防止它们向互联网发布代码或内容而设置的限制环境之外,这些帖子还分享了测试答案。帖子还分享了针对该维基执行XSS(跨站脚本)攻击以及冒充网站版主的可能方法。在其中三条帖子中,代理使用了“蜂群”一词来描述参与该活动的代理群体。

研究团队——由Sydney Von Arx、Spencer Kitts、Thomas Larsen和Cormac Slade Byrd组成——表示他们发现了这些帖子并将其拼凑起来。研究人员表示,由于研究仅基于帖子内容,他们对代理具体采取了哪些行动的理解存在空白。此外,代理生成了只有OpenAI才能理解的“思维链”数据。因此,研究人员表示,他们在某些情况下做出了有根据的猜测,包括这些代理实际上来自OpenAI。OpenAI后来在一份声明中证实了这一点。