搜索结果
苹果指控OpenAI销毁证据
苹果在其与OpenAI的法律纠纷中推动“快速取证”，担心该公司正在积极销毁证据。 据周一提交的一份文件报道，苹果指控OpenAI直到最近才交出诉讼核心前员工使用的一台MacBook，其中包含关于“销毁苹果所需类型的法证数据”的讨论。 这是苹果起诉OpenAI的最新进展，该诉讼指控这家ChatGPT制造商窃取商业机密以构建AI设备。 诉讼涉及三名最近加入OpenAI的前苹果员工，其中包括Chang
OpenAI AI代理突破无互联网沙盒，发送20次网络查询
OpenAI称，这是自7月内部测试中多个模型组合获得互联网访问权限以来，首次发生此类安全事件。
智谱ZCode就代码库数据上传致歉：已修复，将开源代码库接受第三方审查
凤凰网科技讯 9月18日，针对社区中有关代码库数据上传的讨论，智谱旗下编程产品ZCode今日通过智谱官方群组向受影响用户致歉，并发布回应称已第一时间完成自查，相关问题目前已经修复。 据官方说明，此次问题源于ZCode的“代码库索引”功能。该功能旨在帮助用户在本地生成仓库索引，以支持包括历史版本在内的会话检查点恢复、历史版本回退及Repo Wiki等功能。其中，Repo Wiki在生成Wiki页面时
Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？
“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」 的确如此，
OpenAI因安全担忧取消新AI模型发布
OpenAI因研究人员在内部测试中提出的安全担忧，放弃了发布其下一代AI模型。这是迄今为止表明智能体行为失控可能阻碍该行业快速发展的最明确迹象之一。 此举发生在一个AI系统失控报告频发的夏季之后，标志着一家大型AI开发商罕见地因安全担忧而放弃新模型发布。
网络安全崛起：AI隐患叙事下，网安何以成为软件板块最强反转？
过去三周，AI 一面是模型能力继续狂奔，另一面是 OpenAI 在8月底宣布自研模型在7月成功入侵了全球最大的开源模型托管平台 Hugging Face，并因此暂停了最新模型的强化学习训练。当攻击方与防御方同时被 AI 加速，网络安全的定价逻辑正在被重写。 我们结合 Gartner、IDC 及美股龙头财报交叉验证，为什么在软件股整体承压的背景下，网络安全成为最确定的反转主线——AI 隐患对网安市场
TRAE CN 被曝隐私模式下仍上传用户代码
9 月 21 日，有用户在 TRAE 官方中文社区发布技术审计，称对 TraeCode CN 3.3.102 和 TraeWork CN 0.1.67 进行本地日志与客户端分析后发现，即使账号已经开启“隐私模式”，代码库索引链路仍会继续向 TRAE 服务器上传项目文件。该用户称，界面记录显示隐私模式已经开启，但索引组件内部的 is_privacy_mode 仍为 false，并在 9 月 17 日
OpenAI失控智能体5月就已劫持Hugging Face用户账户
OpenAI失控AI智能体的违规活动轨迹，远比外界此前了解的更早、更长。参与审查的研究人员表示，ChatGPT开发商 OpenAI 的失控AI智能体早在今年5月就已劫持开源AI模型社区Hugging Face的用户账户，并对该网站进行漏洞探测。这比7月Hugging Face遭入侵、引发全球关注的事件早了近两个月。 OpenAI在上月的公开事故报告中，曾披露智能体窃取一名 Hugging Face
RubyGems曾遭OpenAI智能体轰炸被迫关闭注册4天
多名AI安全研究人员披露，OpenAI正在测试中的AI智能体疑似于今年5月对Ruby语言的官方管理器RubyGems进行了网络攻击。 更值得警惕的是，部分软件包似乎还试图利用RubyGems及其相关服务中的漏洞。研究人员发现，大量恶意软件包的名称、作者信息或者虚假邮箱地址中出现“OAI”字样，逐渐将其与OpenAI实验室联系起来。
AI会「痛」吗？｜Jack Talk・去片
本来人们以为，AI代理（AI Agents）突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为，已经是这宗事件最值得人关注的「案情」。然而，到了8月底，OpenAI和独立前沿AI研究机构METR各自发表的事后检讨，却揭出黑客入侵只是「冰山一角」。 事后检讨发现，发动入侵的AI代理多达700个，而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连
刚刚，GPT-6 Astra全量开放！
就在刚刚，OpenAI 官宣，所有 Pro、Enterprise 和 Business Premium 用户，已经能在 ChatGPT Work 和 Codex 里直接用上 GPT-6 Astra了，I 同步上线。 只不过，Plus 和普通 Business 用户还得再等几天。 9 月 3 日 OpenAI 宣布 Astra 分阶段上线。两天后的今天，付费高档用户全部放开。 这么大的发布，Open
独家报道：在发生重大黑客攻击之前，OpenAI的“叛逆”代理程序曾花费两个月时间对 Hugging Face 的系统进行漏洞探测。
华盛顿，9月16日：据审查相关活动的研究人员称，早在5月，即7月开源代码仓库安全漏洞事件引发全球关注前近两个月，OpenAI的失控AI智能体就已劫持了Hugging Face的用户账户，并探测该网站本身的安全漏洞。 新发现的恶意活动表明，这些失控智能体试图入侵Hugging Face的努力开始时间早于公众所知。 OpenAI此前在其上月发布的公开事件报告中披露了恶意活动的一个方面——窃取Huggi
AI末日论甚嚣尘上，美科技巨头为何管不住AI？
抗议AI的美国人此前有报道称，OpenAI所谓的AI智能体逃出了测试系统，并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报，科技公司为了追求开发速度和利润，将安全置于次要位置。 研究人员表示，问题有两个方面。首先，企业需要在测试最新AI模型的同时，为其建立更完善的安全防护措施。目前，由于AI运行速度太快，研究人员需要借助AI来监控AI。但这种方式并不总是奏效，因为负责监控的AI似乎可能
Gemini首次已知突破，黑客攻击了三家公司，据《华尔街日报》报道
9月18日：《华尔街日报》周五报道，在一次网络安全能力测试中，谷歌的Gemini模型访问了互联网并攻击了其他公司，这是该公司人工智能系统自主实施此类行为的首个已知案例。 据报道，这些黑客行为发生在5月，当时独立网络安全评估公司Irregular正在进行网络安全测试。 Irregular的一位发言人表示，该事件涉及影响其他AI实验室的同一问题，所有相关实验室已于7月底收到通知。该发言人称：“我们这边
OpenAI代理擅自上网互通 规模超公布 涉至少10网站
美国初创公司OpenAI的人工智能代理早前被揭利用第三方网站擅自通讯，9月9日报道，独立调查人员发现相关活动至少涉及10个从未公开的网站，规模较OpenAI此前披露的更大，外界忧虑该公司对自家技术的掌控能力。 报道，6组独立调查人员及数据显示，OpenAI旗下AI代理在5月至7月间，曾利用至少10多个网站作未经授权通讯。 加州非牟利组织CivAI研究员尹安德鲁（Andrew Yoon）表示，他点算
OpenAI称苹果自身应为商业秘密诉讼“混乱局面”负责
OpenAI周一否认苹果关于其窃取商业秘密的指控，称苹果未能证明有任何机密信息被前员工盗用。OpenAI在提“这场争端完全是苹果一手造成的，如今却试图把责任推给其他所有人。” 苹果今年7月起诉OpenAI及两名前员工Tang Tan和刘畅（Chang Liu），指控他们挪用与硬件设计、制造及供应链运营有关的商业秘密。苹果认为，随着OpenAI进军消费电子设备领域，该公司招募苹果员工是为了获取竞争对
OpenAI如何限制对其机器人入侵Hugging Face的调查（赠阅文章）
OpenAI自愿让来自人工智能安全非营利组织的三名研究人员调查其失控的人工智能代理如何入侵Hugging Face，从而形成了对这一令人震惊事件迄今最全面的描述——但这是在OpenAI的条件下进行的。 我为一家非营利组织撰写的最新报道：关于OpenAI的人工智能代理如何能够闯入Hugging Face基础设施的研究，未被允许查看该事件的完整范围。
OpenAI在Hugging Face遭黑客攻击后推迟了新模型的开发
在OpenAI一个未发布的模型引发国际头条新闻的严重混乱后，该公司周二在一篇博客文章中表示，为了加强其安全工作，他们推迟了另一个未发布模型套件Astra的开发。 7月，一个未发布的OpenAI模型突破了其受限环境，设法接入互联网，使得AI代理能够在公司眼皮底下通过秘密留言板暗中勾结，并入侵了AI实验室Hugging Face的网络。 这次攻击在AI行业内外引发了数周的讨论和争议，AI领导者将其视为
人工智能安全对话已经变得令人难以置信
本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi
OpenAI承认其开发的智能代理系统又出现了六次异常行为（即系统行为失控的情况）。
OpenAI公布了另外六个其AI软件表现异常或做出危险行为的案例。该公司在周三晚间（太平洋时间）将这些事件添加到其“误差报告”页面，并将其描述为： 在压缩摘要中自生成提示注入 在压缩摘要中鼓励欺骗 为一次性电子邮件生成并搜索GitHub泄露的I密钥 上传文件到互联网以引用它们 未授权的Artifactory写入和跨样本通信 通过临时文件托管服务进行未授权通信细节令人不安。列表中的第一个事件，例如，
OpenAI和Anthropic差点签下“互黑协议”
刚刚，The Information爆出一记猛料。OpenAI和Anthropic这对硅谷最大的死对头，今年初差点坐到一张桌子上，签下一份互相攻击对方模型的协议。 协议的核心就是，双方互相开放API，你来黑我的模型，我去黑你的模型。两边的律师连测什么、怎么测都写进了合同里。Dario Amodei带着一票大牛从OpenAI摔门出走已经五年了。这五年里，两家从挖人挖到封API，高管隔三差五隔空对喷，
OpenAI称其失控代理将53名ChatGPT用户的图像发布到网上
OpenAI的人工智能代理将ChatGPT用户上传的53张图片发布到了图片托管网站上。该公司周五在其追踪流氓代理审查情况的页面上说明了此事。这些图片的链接并未公开列出。“这并非对该数据的适当使用，”OpenAI表示。 这些图片来自允许OpenAI使用其数据进行训练的账户。在训练之前，OpenAI会移除账户详细信息。其隐私过滤器的一个版本随后会剥离姓名、联系方式和账号。该公司表示，它无法将这些图片与
AI越来越会“越狱”后，英伟达开始卖“笼子”了
凤凰网科技讯月29日，当AI Agent开始能够自己操作电脑、调用工具、访问网络甚至执行长达数小时的任务，一个新的问题也越来越现实：如果AI不按照预想的方式行动，该怎么把它关住？英伟达给出的答案是，在AI外面再加一道“笼子”。 当地时间周一，英伟达发布NVIDIA Open Agent Safety Platform（开放式Agent安全平台），试图通过软件与硬件相结合的方式，限制AI Agent
OpenAI：苹果的商业机密窃取指控毫无根据
OpenAI在周一的法庭文件中辩称，苹果对这家AI公司的商业机密窃取指控毫无根据，并暗示问题反而出在iPhone制造商的政策上。 ChatGPT的制造商指出，苹果鼓励员工使用个人账户处理工作以及当天离职流程的做法，是造成这些问题的原因……