字号 ·· | 护眼
currentstatus

两名民主党参议员将试图推动就人工智能安全进行投票

两名民主党参议员正试图在周四强行就一项法案进行表决,该法案要求人工智能公司将其新模型提交政府审批。

来自弗吉尼亚州的马克·沃纳(Mark Warner)和来自夏威夷州的布莱恩·沙茨(Brian Schatz)将提出一项法案,强制Anthropic和OpenAI等前沿企业在发布其模型之前,由国家安全局(NSA)对其进行评估。目前,特朗普政府仅建立了一个自愿性的模型测试机制。

沃纳和沙茨将试图通过一致同意(unanimous consent)的方式通过该法案,这是一项如果所有参议员同意即可加快立法表决的程序。

这一推动行动反映出人们对人工智能发展速度的担忧日益紧迫。来自艾奥瓦州的共和党参议员查克·格拉斯利(Chuck Grassley)周三也在探讨利用这一机制通过一项法案,以保护披露人工智能风险信息的吹哨人。

随着参议院准备休会,这些努力为参议院内部围绕人工智能风险可能爆发的对抗拉开了序幕。近几周来,由于披露了多起黑客攻击事件以及Anthropic一名研究员的高调离职,各方对人工智能的担忧进一步加剧。

一位发言人表示,沃纳一直与OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)、Anthropic首席执行官达里奥·阿莫代(Dario Amodei)以及摩根大通首席执行官杰米·戴蒙(Jamie Dimon)等商业领袖保持着紧密联系,探讨人工智能的潜在风险以及联邦进行干预的必要性。

这位弗吉尼亚州参议员与自由派同僚(如佛蒙特州无党派参议员伯尼·桑德斯)要求暂停人工智能发展的呼吁保持了距离,他称自己“长期看好人工智能”。但他与沙茨一直在推动建立比特朗普政府所支持的力度更大的监管。

他们的立法还包括其他人工智能安全措施,例如建立联邦人工智能安全事件数据库;指示美国国家标准与技术研究院开发人工智能风险评估系统;以及授权商务部与外国在测试、安全和报告方面开展合作。

沃纳在一份声明中表示:“比起人工智能终结人类这种科幻式的情景,我更担心的是非常现实的情景:一个强大的人工智能系统入侵银行、扰乱供水系统,或破坏其他关键基础设施。这些风险已不再是理论上的,我们必须确保我们的安全措施和保护机制能够跟上技术的发展步伐。”