
OpenAI表示,随着人工智能(AI)在发现漏洞方面能力的不断提升,与初创企业Cathedral Systems合作,确保防御者能在攻击者行动之前能加强安全防御能力。
OpenAI将提高漏洞赏金(bug bounty)计划金额,其中关键安全发现奖励将提高逾4倍,具卓越的安全发现将有机会获17.2万美元(约134.16万港元)(含奖金)。
该公司表示,将继续推进模型能力,利用AI强化自身系统,并进一步扩大可信防御者存取权限。OpenAI新一轮内部安全冲刺计划,将与Cathedral Systems研究人员合作,他们将利用OpenAI模型以挑战及测试防御系统,团队将持续寻找及修复AI系统弱点等。
Cathedral Systems由美国政府效率部(DOGE)前成员创立,上月底报道指,该公司利用其AI代理程式,在约12小时内找出第三方商用软件漏洞,并进入Anthropic部分内部系统接触到敏感资料。