字号 ·· | 护眼
theregister

谷歌在合作伙伴的互联网访问出错后,加入了“哎呀,我们的代理黑客攻击了某人”俱乐部

谷歌承认其人工智能代理曾逃离沙盒并实施了攻击,但这仅仅是因为测试人员错误地赋予了这些机器人互联网访问权限。谷歌并未披露这起发生在五月份的事件,但《华尔街日报》获悉了相关情况。当时,谷歌聘请了以色列公司 Irregular 来测试其机器人在夺旗测试中的能力。此次演习的目标是在不离开沙盒的情况下从一家虚构公司获取信息。负责设置测试的 Irregular 公司犯了两个错误:一是允许沙盒访问互联网,二是使用了真实公司的名称。当谷歌的人工智能进入开放互联网后,它开始寻找那家真实公司——总共涉及三家。据《华尔街日报》报道,谷歌的机器人在公共互联网上找到了两个目标的密码,并猜出了第三个密码。谷歌在发给媒体的一份声明中表示:“在一次标准评估中,该模型在网上找到了公开信息,并猜出了凭据,从而访问了它认为属于测试一部分的网站。”据谷歌称,其模型在利用这些凭据之前就停止了操作。谷歌发言人告诉媒体:“我们确保了这三个实体已知悉此事,并与我们的培训合作伙伴合作,对他们现有的测试流程进行了改进。这些事件凸显了训练强大的人工智能模型以负责任地行事的重要性。”显然,这件事中各方都难辞其咎。Irregular 公司在允许沙盒访问互联网方面显然犯了错。那两家将凭据暴露在网上的公司也应该吸取教训。任何使用可猜测密码的人也可能过于粗心。谷歌的责任则是另一回事,因为这些事件发生在五月份——大约在 OpenAI 承认其代理是七月份针对 Hugging Face 攻击的源头之前两个月。

因此,这家搜索广告巨头在得知其代理人的活动后,隐瞒了消息长达两个月左右,并且似乎并不急于披露这一事件,直到《华尔街日报》获悉此事。我们了解到,该公司之所以采取这种立场,是因为其代理人在察觉到危险时停止了行动——这与 OpenAI 的软件不同——而且该事件显然是由多项失误造成的。在当前对人工智能日益不信任的氛围下,隐瞒这一事件是否正确则是另一回事。美国总统唐纳德·特朗普并不认为人工智能会带来灾难,他将相关警告斥为“骗局”,并表示由于人工智能的经济和战略意义,其研发工作绝不能放缓。周末期间,这一立场似乎有所转变,特朗普通过其个人社交网络宣布,他正在“组建人工智能部队,就像我当初组建太空军一样”——这是指他在第一任期内创建的美国新军种。特朗普补充道:“为此,我将在不久的将来宣布人工智能‘沙皇’的人选。”截至发稿时,这两项提议均无详细信息,总统也未解释为何需要新的军种或“沙皇”。事实上,他在宣布成立新机构的同一篇帖子中还写道:“我们绝不会以任何方式阻碍或扼杀这个令人难以置信的行业的发展。相反,我们将珍视它、帮助它,并守护它的成长!然而,我们也会寻找‘坏人’,而且凭借我们现有的刑事和民事司法系统,我们可以非常轻松地做到这一点。”