字号 ·· | 护眼
政治报

OpenAI 支持两党共同努力应对人工智能生物威胁

该公司正在支持三项法案,旨在规范生物数据并防御人工智能带来的威胁。

OpenAI 支持一系列法案,该公司表示这些法案将有助于防止人工智能模型加剧生物武器和合成病毒的威胁。

这些法案旨在改善构建人工智能防御系统以应对合成和自然发生的生物威胁所需的数据的可及性,并为这些工具的安全开发建立标准。

该公司独家向 POLITICO 透露,它正在对围绕《生物数据网络法案》、《人工智能就绪生物数据标准法案》和《规模化生物学法案》的三项两党法案发布新的支持。前两项提案此前已在众议院和参议院提出,最后一项则在众议院提出。

OpenAI 的支持标志着该公司推动相关立法的一项举措的扩大,该立法旨在解决人工智能可能带来的生物安全风险以及其可能有助于创造的防御技术,因为公众对先进人工智能模型破坏性潜力的担忧日益加剧。周二早些时候,该公司表示将支持一项两党共同提出的众议院提案,要求顶尖人工智能公司聘请外部评估员来确保其模型的安全性。

OpenAI 国家安全风险缓解负责人理查德·约翰逊表示,该公司对该立法的支持与其在人工智能网络安全方面的想法不谋而合。“我们需要同时关注安全和风险方面,但我们也需要关注将这些工具交到防御者手中的机会,”他告诉 POLITICO。

近期研究引起了人们对利用人工智能设计病原体的关注,其中包括斯坦福大学和 Arc Institute 研究非营利组织科学家的一项广为阅读的研究,该研究表明他们能够借助该技术设计出 16 种全新的病毒。Anthropic 上周还披露,该公司今年发现了五起外国行为者非法使用其模型进行危险病原体研究的案例,这些研究可能支持生物武器的开发。

OpenAI 支持的两项法案将扩大美国国家标准与技术研究院 (NIST) 在人工智能和生物安全相关问题上的职权范围。《规模生物学法案》(SCALE Biology Act) 将设立一项新的 NIST 项目,负责创建生物数据的测量标准,以及安全开发生物技术和防止其滥用的指南。《人工智能就绪生物数据标准法案》(AI-Ready Bio-Data Standards Act) 将委托 NIST 设计一个标准框架,以确保联邦资助的生物数据可供人工智能研究人员使用。《生物数据网络法案》(Web of Biological Data Act) 命令能源部建立一个集中式生物数据访问资源。

约翰逊告诉 POLITICO,法案中涉及的数据和标准对于开发更好的方法来评估日益强大的模型可能如何影响生物安全至关重要。“我们需要能够持续衡量能力和风险,然后能够将我们所处的阶段与行业内正在发生的其他一切进行比较,”他说。

“高质量、可用于人工智能的生物数据必须被视为国家战略资源,”新兴生物技术国家安全委员会执行主任凯特琳·弗雷泽说。该委员会是一个国会设立的机构,也支持这些法案。

OpenAI 此前曾支持两项相关法案,即《生物安全现代化与创新法案》和《霍姆斯特克人工智能法案》。

人工智能潜在的生物威胁加剧了业界要求放缓技术发展的呼声,Anthropic首席执行官达里奥·阿莫代(Dario Amodei)在周末发表的一篇备受瞩目的文章中,将这些风险列为更审慎地推进发展的理由。

约翰逊表示,此类立法将有助于推动人工智能研究,使其更专注于理解发展速度对生物安全意味着什么。“我们需要确保我们了解其能力,并确保我们不会发展得太快,以至于我们无法理解这些东西可能如何被使用以及它们可能做什么,”他说。