OpenAI国家安全政策负责人表示,美中之间建立人工智能危机沟通热线应当成为两大超级大国在该技术领域发展关系的“起点”。
萨莎·贝克(Sasha Baker)周二在Semafor的“Next 3 Billion”活动上表示,对于华盛顿和北京正在讨论人工智能安全通报系统(特别关注国家安全关切)的报道,她感到“谨慎乐观”。
她说,这是一个“极好的起点”。“我认为这是一个起点,而不是终点。但它是实质性的、真实的。”
她表示,美中两国必须寻找共同点,因为全球领先的人工智能实验室都位于这两个国家,但“世界上每个国家都对先进人工智能的发展负有切身利益,我们希望这些声音也能在对话中得到体现。”
贝克称,支持放缓前沿人工智能模型开发步伐的OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)将于周三向联合国安理会阐述围绕人工智能“将标准对话国际化”的必要性。周二早些时候,美国总统唐纳德·特朗普拒绝了对人工智能进行国际监管的想法,称其为“全球主义阴谋”。她补充说,他还将传达“我们所处时刻的严重性,并认识到这些模型确实展现出了具有战略意义的能力”。
贝克发表上述言论之际,外界正担忧先进的人工智能模型可能会变成强有力的黑客工具,在几乎无需人类指导的情况下就能发现并利用未知的安全漏洞。
本月早些时候,OpenAI推出了其首个被指定为“网络关键”的模型Astra。贝克表示,目前没有计划利用该模型来协助美国政府开展进攻性网络安全工作,例如对对手发动主动攻击。
她表示:“我们……承认,如果落入不法分子手中,它可能会被用于进攻性网络活动。但这并不是我们目前为模型提供支持的方向。”