OpenAI正在推出一项新举措,旨在为供水系统、电力供应商、地方政府及其他关键服务提供其模型的补贴访问权限。
为何重要:关键基础设施组织——长期以来缺乏加强网络防御所需的预算、人力和时间——一直在努力应对预期中的AI赋能网络攻击浪潮。
推动因素:OpenAI总裁格雷格·布罗克曼周四在公司总部主持300名安全领袖参加的峰会时宣布了这一新计划。Axios首先报道了此次峰会及布罗克曼的预期公告。
聚焦:OpenAI承诺投入10亿美元用于一项名为“Daybreak for Frontline Defenders”的新计划,重点保护全球基本服务。这10亿美元将以扩大补贴模型访问、培训、技术支持及与参与组织合作的形式提供。
OpenAI还推出了“Daybreak for America”计划,将为地方政府、供水系统、电力供应商、地区银行及其他关键基础设施提供其模型访问权限。作为该计划的一部分,OpenAI正在与多州信息共享与分析中心启动试点项目,培训州和地方政府的网络防御人员使用其模型。
OpenAI还与超过35家技术和网络安全服务商合作,将这家AI实验室的先进模型嵌入其工具、服务和流程中。
威胁:多年来,网络官员一直担心AI模型很快将能够自主发现并串联起为公共事业和服务提供动力的复杂系统中的漏洞。虽然像OpenAI这样的前沿实验室在很大程度上限制了对最强大模型高级网络能力的访问,但开放权重模型能力的快速提升正引发担忧,即AI赋能的攻击将比预期更早到来。
OpenAI表示,新计划将使资源较少的公用事业机构能够审查遗留代码、分析可疑活动、识别并验证漏洞、优先处理最严重的风险,以及开发和测试安全补丁。
现实:扩大服务和培训并不能解决数十年来困扰关键基础设施的所有安全问题——而AI赋能工具可能会加剧这些问题。许多实体还需要更多了解保护其试图抵御数字威胁的物理系统细微差别的工人。AI正在加速对日常公用事业的攻击。