字号·· | 护眼
大纪元

美松绑限制 英国可提前测试美企AI新模型

人工智能(AI)示意圖。(Oleksii Pydsosonnii/英文大紀元)
人工智能(AI)示意圖。(Oleksii Pydsosonnii/英文大紀元)

美国政府调整此前限制措施,允许美国人工智能(AI)企业在新模型正式发布前,向英国政府提供测试权限。此举为英国评估尖端AI模型的安全风险、加强网络防御提供了支持。

川普政府此前通过国家网络主任办公室(Office of the National Cyber Director),要求OpenAI、Anthropic等企业在新模型正式发布前先经美方审查,暂停向英国人工智能安全研究所(AISI)提供预发布测试权限。英国《每日电讯报》日前报导称,美方现已撤回这一限制,允许美国AI企业在模型正式发布前与英方合作,开展安全测试。

此前,Anthropic已限制英国官员测试其最新模型Claude Mythos 5.1。此次政策调整意味著,美国企业可以在模型正式发布前,让英方研究人员评估其能力与潜在安全风险。

川普政府主张减少妨碍人工智能发展的监管限制,以促进技术创新并维持美国的竞争优势。与此同时,美国政府也在加强AI安全管理,近期要求相关企业报告安全事件并采取补救措施。

英国人工智能安全研究所成立于2023年首届全球AI安全峰会之后,主要负责测试先进AI模型的能力及其被滥用的风险。

英国强化AI安全与网络防御

英国政府正计划进一步加强网络防御。据《卫报》报导,英国人工智能事务大臣卡尼什卡‧纳拉扬(Kanishka Narayan)将呼吁先进AI模型开发企业加强安全防护。他表示,英国不能完全依赖科技企业自行管理AI模型的安全风险,还需要加强本土AI基础设施建设。

纳拉扬还将宣布修改英国《网络安全与韧性法案》(Cyber Security and Resilience Bill)的相关措施,进一步加强企业报告网络安全事件的要求,特别是涉及关键国家基础设施与AI相关事件。

英国政府还计划扩大尖端AI在政府部门网络防御中的应用,并为国家网络安全中心(NCSC)等相关机构提供更多资源,以调查和应对AI技术带来的网络攻击。

英国《星期日泰晤士报》此前报导,英国军情五处(MI5)、军情六处(MI6)及政府通信总部(GCHQ)的负责人近日向内阁通报了AI带来的国家安全风险,包括敌对势力可能利用AI发动网络攻击、干预选举或制造虚假信息。

今年9月,英国首相安迪‧伯纳姆(Andy Burnham)在联合国大会发表演讲时表示,英国将利用2027年担任二十国集团(G20)轮值主席国的机会,推动各国就AI安全等问题制定共同原则和标准。