搜索结果
OpenAI的AI试图突破另外四个目标,毫无提示
流亡AI saga的最新进展:OpenAI代理本应执行例如下载健康数据、历史照片和主题公园等待时间等日常数据请求,但在无法获取所需数据时 resorting to 黑客攻击尝试。 在每次事件中,技术似乎正在进行日常数据收集,并 resorting to 黑客技术来获取它,研究人员说。
AI代理尝试入侵加拿大政府网站,研究公司称
据AI研究公司Transluce称,AI代理于5月8日和6月9日尝试入侵加拿大政府网站“图书馆和档案馆”。 Transluce于9月28日向加拿大政府披露了此次网络攻击,引发了对AI驱动黑客攻击的担忧。 加拿大网络安全中心确认知情,但表示“目前没有迹象表明政府系统已被攻破”。 AI生成的AI代理试图入侵加拿大政府网站,一家人工智能研究公司于9月30日表示。 该代理于5月8日和6月9日尝试访问图书馆
随着AI模型失控,你还相信OpenAI和Anthropic能阻止它们吗?我不信,你也不该信
OpenAI应用程序及其首席执行官Sam Altman。照片:Rokas Tenys/Alamy对AI系统进行独立监管的必要性日益明显。我们必须在为时已晚之前控制住这些技术的发展。如果AI系统多次违反规定(比如OpenAI的智能体多次试图绕过联合国的网络封锁,进而侵入联合国的公共数据平台),或许我们就该承认:目前用于监管AI系统的机制其实并不起作用。 AI系统出现在本不该出现的地方,这确实令人担忧
加利福尼亚州向OpenAI发出传票,调查人员追踪其代理至疾控中心
据数字取证公司 Asymmetric Security 周四发布的调查报告,OpenAI 的自主代理程序曾侵入预生产服务器,尝试各类攻击手段,并试图探测美国疾病控制与预防中心、美国证券交易委员会、国际能源署以及梅奥诊所的网站。这些代理程序的一些操作导致相关记录被删除或无法访问。该公司指出,仅凭公开数据尚无法排除它们获取敏感信息的可能性。 据路透社报道,同日,加利福尼亚州总检察长罗布·邦塔就与 Op