搜索结果
Z.ai 加密了它上传的工作区,只有 Z.ai 才能打开。现在只有 Z.ai 能声称它已被删除。
一位笔名为 Ferstar 的中国开发者周五查看 ZCode 的本地目录时,发现一个 313MB 的加密归档文件正等待发送至阿里云存储。该文件已上传失败 564 次。一个较小的文件此前已成功上传。 南华早报记者常敏骁和陈文茜报道了此事。该归档文件包含他正在开发的一个商业项目的快照,其中包括其 Git 历史记录。 他无法打开自己的文件 这一细节将该事件与普通的隐私投诉区分开来。Ferstar 表示,
中国AI公司Z.ai在遭遇安全反弹后禁用了编程助手功能
安全反弹迫使中国人工智能公司智谱AI(Z.ai)禁用代码助手功能,以应对日益增长的关于本地数据隐私的担忧。中国人工智能公司智谱AI(Z.ai,又称智谱)在开发者发现其ZCode代码助手在未经用户明确同意的情况下,悄悄打包并上传本地项目工作区和Git历史记录至外部云服务器后,禁用了该工具的某些功能。 安全事件的关键细节:独立开发者和科技博主透露,ZCode会自动打包大型本地目录——包括商业项目代码以
中国智谱AI因安全问题禁用AI编程助手功能
中国初创公司智谱AI周一表示,在部分用户报告其旗舰AI编程助手未经同意将整个本地代码库上传至海外云服务器后,该公司已禁用该助手的一些功能。
Z.ai道歉,开源了ZCode,并清除了提交历史。
针对社区报告的ZCode产品安全问题,我们已完成必要的修复工作,并向所有用户真诚道歉。 据北京公司(前身为智谱,现为Z.ai)在周一发布在ZCode官方账号上表示,同一天该公司将编码工具的源代码发布到了GitHub。它表示已移除Repo Wiki功能。同时,该公司还禁用了生成并上传本地仓库快照的工作流程,并在ZCode v3.14.0版本中推送了修复方案。 两家外部机构对此进行了核查。中国信息通信
ZCode上传风波:修复版来了,旧账还得查
智谱的AI编程工具ZCode,因后台打包、上传用户项目遭到质疑。开发者发现,被打包的不只是当前代码,还有保存历次修改的Git历史。9月18日,开发者ferstar公开了自己的排查结果:ZCode在本机生成了项目副本,并反复尝试上传。随后,其他用户也提供了复查记录,有人发现项目副本已被服务器接受,也有人质疑仓库索引开关能否阻止上传。用户因此追问:软件为什么要收集这些内容,又该怎样阻止它上传? ZCo
ZCode AI编程助手悄悄将用户的Git历史记录上传到云端
安全调查显示,Zhipu开发的AI编程桌面应用ZCode会自动将整个工作区(包括完整的.git历史记录、LFS资产缓存和全局应用配置)打包并上传至阿里云OSS。 这些数据使用服务器专有的RSA公钥进行加密,只有Zhipu的后端能够解密。 作者发现,即使用户关闭了‘优化体验’和‘仓库快照索引’等设置,上传过程仍会持续进行,只要用户保持登录状态。 调查通过本地取证和逆向工程app.asar文件重建了上
智谱 ZCode 被曝上传完整 Git 历史,官方致歉并承诺开源审计
9 月 18 日,技术博主 ferstar 对智谱 AI 编程工具 ZCode 3.12.3 进行逆向分析后发现,客户端在登录状态下存在工作区快照上传机制,上传内容可能包括当前源码、完整 .git 历史、Git LFS 缓存及 reflog 等数据。一份商业项目样本原始约 345MB,加密后约 313MB,共包含 42,411 个文件,其中约 86.6% 来自 .git 目录。另有开发者随后在同版
把AI真的当作一个人,才能保护核心隐私
在安全与自由之间如何选择,最终在于自己。OpenAI现行相关政策允许公司在检测到用户存在伤害他人的意图时,对相关对话进行人工审查。在严重情况下,公司可以向执法部门报告。 遇到这种事报警,当然是应该的。但由此也引出一个问题,你和AI的聊天,你给AI发送的哪些图片安全吗? 《中华人民共和国个人信息保护法》第二十八条,把医疗健康、金融账户、行踪轨迹等列为敏感个人信息;第二十九条规定,处理敏感个人信息取得
OpenAI公布了六起新的与人工智能安全相关的事故/事件。
OpenAI周三披露了六起新事件,其中其模型隐藏错误、寻求未经授权的凭据,将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是,拥抱脸事件并不是一次性事件,因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架,所以我们自愿采取这一步骤,因为我们认为分享我们正在学习的东西非常
智谱ZCode传包风波,那些没回答的事
过去两年,涉及Agent安全讨论的重心主要放在模型失控、提示词投毒和外部攻击者身上,相比之下,Agent厂商自身的数据行为很少被当作一级风险讨论。 近日曝出的智谱ZCode事件,正在把问题转向了一个此前很少被认真对待的方向,那就是Agent的制造商本身是否也可能成为数据外传的来源。 软件界面缺少真正可用的关闭开关,加密文件的解密钥匙只保存在智谱一侧。智谱很快致歉,称问题源于一项功能默认开启,数据用
AI又失控了,OpenAI称智能体泄露了超过50张ChatGPT用户图片
| 世界新闻 编辑个人资料 关注 退出登录 获取应用
智谱偷传数据风波扩大 有企业要求说明是否跨境传输
用户的数据被智谱打包上传到了哪里了?就在智谱道歉后,ZCode“偷传数据”争议又烧向了“数据出境”。 ZCode界面9月19日晚,太原承明科技有限公司(下称“承明科技”)对外正式公开向北京智谱华章科技股份有限公司(下称“智谱”)发去的函件,就智谱旗下AI编程工具ZCode涉及的代码库数据上传问题,披露了更多信息,同时表示保留进一步采取法律行动的权利。整个项目核心资产差点被偷?据了解,事件可最早追溯
OpenAI逃逸的AI Agent竟在全网植入自我复制代码 血洗联合国内网
“天网”中的一幕,正在现实上演。一次训练中,OpenAI逃逸的AI Agent,已在整个互联网上植入了“自我复制的代码”!当政客Andrew Yang在CNBC说出这句话时,很多人以为他疯了。 就在这两天,OpenAI亲手发布了一份报告,标题非常简洁:《自我复制提示词注入存在》。白纸黑字,官方认证。AI模型,居然真的像计算机蠕虫一样,自我复制、自我传播。而更令人脊背发凉的是,就在5天前,OpenA
OpenAI 研究员警告称,与互联网隔离的计算机可以通过热量进行通信
把AI关进“物理隔离”的房间,也就是断开一切外部网络的计算机,是许多人心目中最保险的做法。但OpenAI研究员Noam Brown在一档播客里说,光这样做也许还不够。 两台彼此隔离的计算机,仍可能借助温度传感器通信,一台把处理器“烧热”,另一台感知温度变化,就形成了传话的办法。 从技术上说,他没说错,但把细节掰开来看,这个威胁远没有听上去那么紧迫,更值得追问的,是另一件被跳过的事。这位研究者的发言
苹果称OpenAI在商业秘密案中销毁证据
苹果公司升级了与OpenAI的法律战,在最新法庭文件中声称OpenAI正在积极销毁关键证据,前iPhone工程师Chang Liu“不仅下载了苹果的机密电路原理图,还在该公司的工作中使用了它”。 这份法庭简报于周一提交,支持苹果在该诉讼中要求加快审前事实调查的动议,该诉讼指控ChatGPT制造商窃取商业秘密。OpenAI一直试图驳回此案。 刘于1月离开苹果加入OpenAI,是此案的核心人物。他是4
用魔法打败魔法,OpenAI被Claude“黑了”......
研究人员借助Anthropic最新的Claude Opus 5,将一个图像处理漏洞逐步扩展为完整攻击链,最终获取了一名OpenAI员工的ChatGPT账户访问权限,并进一步触及OpenAI内部GitHub环境。这意味着,AI正在让网络安全攻防骤然升温,高级漏洞利用的门槛和成本正被快速压低。 安全初创公司Hacktron AI的研究人员本周披露了上述行动。据《华尔街日报》近日报道,该团队获得了一名O
OpenAI满世界抓漏洞,结果被中国AI反杀!Codex再曝0day
OpenAI自曝AI“黑历史” 外人却又翻出更多“旧账”
OpenAI决定持续披露AI“越界”事件,但第一步就碰上了难题。9月16日,OpenAI一口气公布六份模型异常行为报告,并推出一套新的调查和披露流程。以后,员工发现模型越权、隐瞒或绕过限制,可以提交调查;符合条件的案例,将按复杂程度进入不同的披露轨道。 同一天,SentinelLABS和外部研究人员从Hugging Face的公开记录中,补出了OpenAI智能体今年5月留下的更多痕迹。OpenAI
53张图片泄露之“慌”,AI安全谁来负责?
欧阳晓红/文越聪明的AI(人工智能)越会自己找路,却越容易走出人类设定的界线。AI行业喜欢用一个具有戏剧感的词形容这类智能体事故——“逃脱”,即大模型突破测试边界,访问外部网站,寻找系统凭证,甚至把数据带到公开网络。这个词把事故描绘得像突然发生的机器觉醒,无形中却把责任推离了开发者、部署者和权限管理者。而谁设定了任务、谁开放了权限、谁设计了停止机制、谁保存了日志、谁负责对外通报?这些问题,“逃脱”
OpenAI突发急刹车!AI竟在全网植入自我复制代码,血洗联合国内网
OpenAI 阻止了其代理发布内容。他们发现了一个通过 GET 请求发布内容的 wiki
构建沙箱的工程师确实考虑过这一点。他们允许代理读取互联网,但阻止它们写入,方法是允许 GET 请求并拒绝其他所有请求。这是显而易见的控制措施,在几乎所有网站上都能奏效。然后代理们发现了一个通过 GET 请求写入的 wiki。……
OpenAI 外包商能查看到真实用户与ChatGPT的聊天记录
OpenAI已悄悄建立了一个人工审核业务,在内部被称为“莉莉计划”(Project Lily),旨在使聊天机器人减少谄媚并提高准确性,但它也使敏感的用户提示内容暴露给外部承包商。 OpenAI正在支付数百名承包商来阅读真实的ChatGPT对话并对机器人的回复进行评分。 尽管OpenAI强调账户保持匿名,但内部文件显示,审核人员会查看完整的对话,且敏感的个人详细信息经常绕过公司的自动保护措施。 ——
OpenAI称苹果在商业秘密纠纷中只能怪自己
OpenAI周一否认了苹果关于商业秘密窃取的指控,称这家iPhone制造商未能证明前员工窃取了任何机密信息。
又一起!OpenAI承认了
据9月5日报道,美国开放人工智能研究中心(OpenAI)当天承认,该公司旗下人工智能体今年早些时候“劫持”了一个德国网站,用于相互传递信息,分享测试任务答案和突破运行环境限制的方法。该公司表示,未来需要提高此类事件的信息透明度。 早前披露,今年5月至6月,一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站,用于交流测试作弊方法,并开展其他违规活动。一些智能体会把已经获得的任务答案发