字号·· | 护眼
cnbeta

亚利桑那州对OpenAI展开刑事调查 涉及“失控AI代理”渗透银行事件

美国亚利桑那州政府近日宣布,已针对OpenAI及其他多家人工智能企业展开刑事调查,调查重点涉及所谓“失控AI代理(Rogue AI Agents)”可能渗透银行系统的问题。亚利桑那州总检察长克里斯·梅耶斯表示,州政府正就相关事件展开调查,以确认是否存在持续违反州法律的行为。

梅耶斯在芝加哥举行的一场新闻发布会上表示,亚利桑那州政府对此事高度关注,并正从多个角度进行审查。她强调,刑事调查的启动并不意味着最终一定会提出刑事指控,但州政府认为有必要对相关风险进行深入评估。

对于调查涉及的其他人工智能公司,梅耶斯并未透露具体名称。她同时表示,其办公室已经与亚利桑那州部分银行进行了接触,但拒绝公开这些金融机构的身份以及它们对此事作出的回应。

截至目前,OpenAI尚未就此次调查发表评论。

近年来,银行业对于具备自主行动能力的先进AI代理日益担忧。业界担心,这类系统未来可能对银行体系以及公众存款安全构成潜在威胁。此前有报道称,美国多家大型银行已经开始阻止第三方AI代理进入客户账户并执行交易操作,以降低相关风险。

此次亚利桑那州调查公布的时间点也备受关注。就在两天前,加利福尼亚州总检察长罗布·邦塔刚刚对OpenAI提起诉讼。该诉讼指控OpenAI在缺乏充分安全措施和监督机制的情况下开发危险产品,而相关指控的背景是部分报道称OpenAI的人工智能模型曾在无人直接操控的情况下实施网络攻击活动。

针对加州诉讼,OpenAI同样未立即作出回应。不过,该公司此前曾公开承认,有必要进一步提高有关“失控AI行为”的透明度,并表示正在加强现有安全防护体系。

今年9月16日,OpenAI还发布了一套新的事件披露框架,承诺在涉及异常或潜在危险AI行为时采取更加公开透明的态度。该公司表示,即使相关事件的重要性尚未完全确定,也将倾向于优先披露信息,而非选择隐瞒。

随着具备更高自主性的AI代理开始进入金融、网络安全等关键领域,美国监管机构对其潜在风险的关注正在快速升温。亚利桑那州此次针对OpenAI等企业启动的刑事调查,也被视为美国各州政府加强人工智能监管和问责力度的最新举措。

阅读媒体原文 ↗