
外电引述消息人士报道,谷歌(Google)、OpenAI和Anthropic正推进一项计划,筹建一个新人工智能(AI)安全标准机构,暂定名称为「前沿人工智能标准机构」(SAFA),目标是在2026年底或2027年初启动,并在没有政府直接监督的情况下独立运作。
消息指出,该机构计划为前沿AI模型制定自愿性的安全和安全保障标准,支持第三方在模型部署前开展测试,规范AI公司报告安全事件的方式,并设定独立审计机构的资质标准。据悉,上述3间科企还在讨论是否由SAFA直接开展模型安全和能力测试。
消息人士称,该计划此前曾考虑采用政府参与的公私合作模式,但相关推进停滞,目前转向行业自律。SAFA未来还将决定哪些模型达到「前沿模型」门槛并纳入其标准体系,惟成员范围、与现有监管和安全机构如何分工等问题仍在讨论。