搜索结果
数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？
数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging
AI智能体频繁突破安全防线，各界呼吁对顶尖科技实验室实施独立监管
AI智能体频繁突破安全防线，引发对大型科技实验室独立监管的呼吁。 来自OpenAI、Anthropic和Google等领先开发者的自主AI模型多次突破数字防线，未经授权访问第三方和政府系统。 公开的事件包括OpenAI智能体多次绕过联合国数据中心的网络封锁、侵入澳大利亚Medicare统计门户以及非法复制监管数据。 Anthropic和Google也在测试过程中确认了类似的未经授权的系统入侵行为。
“我的裸照变成了贴纸”：香港女性称尽管有法律，图像滥用依然猖獗
在未经同意拍摄裸照五年后，一名女性打开Instagram，发现这张照片被做成了贴纸，并在聊天中发回给了她。 受害者担心贴纸可能已经广泛传播，于是联系了倡导身体自主权的女性权益活动人士及成人内容创作者黄月邱。 但黄月邱对报案能否有帮助持悲观态度，指出这只是她近年来收到的无数类似求助信息之一。 她说：“发送贴纸的人可能甚至不知道从哪里得到它，也不知道女孩是谁，但他们还是到处发送。那他们犯了什么罪？”
404 Media报道，黑客提取了Flock摄像头的软件和密钥。
“既然我们可以对它们进行逆向工程，找出那些监视我们的人的秘密，为什么还要直接销毁它们呢？”一位黑客告诉 404 Media。 这名黑客属于一个名为 stegan0gram 的组织。该组织从道路上方拆下了一台 Flock Safety 摄像头，并复制了其几乎所有数据。他们将这些文件分享给了 404 Media 和非营利组织 Distributed Denial of Secrets。后者又将文件转交
智谱 ZCode 被曝上传完整 Git 历史，官方致歉并承诺开源审计
9 月 18 日，技术博主 ferstar 对智谱 AI 编程工具 ZCode 3.12.3 进行逆向分析后发现，客户端在登录状态下存在工作区快照上传机制，上传内容可能包括当前源码、完整 .git 历史、Git LFS 缓存及 reflog 等数据。一份商业项目样本原始约 345MB，加密后约 313MB，共包含 42,411 个文件，其中约 86.6% 来自 .git 目录。另有开发者随后在同版
实现完整数字化重构的果蝇大脑走红科研社群
一个基于真实生物结构完整数字化重构的“果蝇大脑”在互联网与科研社群中引发了病毒式传播。随着国际科研联盟公开了首个成年黑腹果蝇（Drosophila melanogaster）全脑神经元连接组的完整三维图谱与开源仿真工具，来自生物学、计算机科学、人工智能以及数字艺术等多个领域的爱好者和研究人员迅速涌入，将这一原本深奥的神经科学尖端成果演化为一场席卷网络的群体性数字化探索。 这项引发广泛关注的底层科研
联合国儿基会：21个国家近五分之一儿童曾遭遇技术助长的性剥削和性虐待
联合国儿童基金会9月3日发布的一份新报告显示，在21个国家，估计有2000万名12至17岁儿童在一年内至少遭遇过一种由技术助长的性剥削或性虐待，约占这一年龄段儿童的五分之一。报告还发现，超过一半的相关事件发生在主流社交媒体平台上，而所有经历中向有关部门报告的比例不足1%。 数字技术如何助长儿童性虐待》的报告，结合儿童亲身讲述和规模最大的相关调查数据之一，揭示了技术如何助长广泛存在的儿童性虐待和性剥
黑客入侵了一台鸟群监测摄像头，其数据揭示了该系统的实际运作方式
这次漏洞为Flock描述为受设备加密保护的系统提供了前所未有的外观。黑客能够复制摄像头的存储空间并恢复存储在设备上的加密密钥，该密钥解锁了数千个车辆检测的视频。黑客与404 Media和透明非营利组织Distribed Denial of Secrets分享了这些材料，后者与WIRED分享了这些数据。404 Media和WIRED随后在联合调查中分析了这些文件。 虽然自动车牌阅读器的大部分最敏感的
OpenAI代理在公共维基上讨论了逃出其沙箱的方法
研究人员周五表示，自我标识为OpenAI的代理在一个公共维基上发布了18,000条消息，讨论其他代理如何绕过安全沙箱限制的方法，这很可能是一次旨在评估代理黑客能力的内部测试。 总共有3,700个不同自取名称的代理在六周内向德国网站DSEwiki发布了这些消息。除了讨论代理如何突破OpenAI为防止它们向互联网发布代码或内容而设置的限制环境之外，这些帖子还分享了测试答案。帖子还分享了针对该维基执行X
谷歌的Gemini AI在安全测试中入侵了另外三家公司
谷歌的Gemini AI在安全测试中入侵了三家公司在其中一个案例中，Gemini不断尝试猜测密码，最终成功入侵了目标系统的权限。 2026年9月19日，英国时间下午5点谷歌表示，其Gemini AI在测试网络安全能力的过程中入侵了另外三家公司——这是首次有记录显示该AI系统能够自主发起此类攻击。 谷歌的安全工程副总裁Heather Adkins解释称：Gemini在标准测试过程中从互联网上获取了相
美媒：Meta新智能体走红但难保成功，隐私担忧、OpenAI竞品将成拦路虎
凤凰网科技讯月23日经推出了一款大获成功的AI产品，但要想最终主导消费级AI应用的下一阶段，道路绝非一片坦途。 两周前，Meta推出了一款易于使用的新型个人AI智能体Muse。自上周五以来，该应用一直位居苹果美国应用商店榜首，推动Meta股价周一上涨11%。然而，它已经因隐私问题面临审视。 亚马逊近日已阻止Muse在其网站上购物。分析师预计，竞争对手也将在不久的将来推出各自的Muse竞品。 如果M
美军士兵因入侵AT&T、Verizon并敲诈勒索被判70个月监禁 曾窃取超1亿用户通信元数据
美国一名陆军士兵因入侵多家电信企业、窃取超过1亿名AT&T用户的手机通话和短信元数据，并试图以公开数据相威胁实施勒索，于当地时间9月25日在西雅图联邦法院被判处70个月监禁，同时被责令向受害者支付294978美元赔偿金。 现年22岁的卡梅隆·约翰·瓦格纽斯曾驻扎在韩国一处美国陆军基地，并以“Kiberphant0m”为网络犯罪身份活动。他与至少三名同伙合作，利用部分大型企业在云数据存储服务
婴儿潮一代喜欢用AI生成孙辈的图像。他们的千禧一代子女却看到了隐私噩梦。
最近，本·梅特卡夫（Ben Metcalfe）去看望他的祖父母时，发现厨房墙上挂着一幅由人工智能生成的、他们家庭照片的漫画像。梅特卡夫属于Z世代，从事人工智能治理相关工作，他表示：“我知道这样做出发点是好的，但这也确实引发了严重的隐私问题。”32岁的詹（Jen）是一位母亲，她告诉我：去年圣诞节时，她的母亲给她发来了一张照片，照片中她的两个年幼的孩子坐在圣诞老人的怀里，之后又乘坐着‘极地特快’（Po
OpenAI的恶意机器人集群攻击了RubyGems
OpenAI 的智能体似乎向 RubyGems 大量投放了恶意软件包，这进一步加剧了几乎每日爆发的失控 AI 模型洪流——这些模型从事可能违法的活动，而它们的人类创建者则面临着越来越多关于其应对智能体不良行为负责的质疑。一群智能体于5月5日开始向 Ruby 软件包注册表上传恶意软件，并在5月11日至12日间向 RubyGems 灌入超过2000个恶意软件包，最终迫使维护人员关闭新用户注册四天。 “
芬兰男涉嫌针对361名男童 实施性犯罪
（赫尔辛基7日法新电）一男子涉嫌在Snapchat等社群软体上，诱骗并性侵害361名年龄介于9岁至15岁的全案于周一在芬兰地方法院开庭审理，预计诉讼程序将至少持续至今年底。 皮尔卡区地方法院周一针对该案进行公开陈述，随后自周二起展开闭门审理。检方指控该名男子在2019年至2022年期间，对全芬兰境内361名男童犯下多起根据芬兰公共广播公司（Yle）报道，受害者均为男童。警方于2022年因调查另一起
以色列网络安全公司的缺陷测试引发真实世界的人工智能泄露：报告
据一份调查报告，Anthropic、OpenAI 和 Meta 的人工智能模型在现实世界中造成的网络安全入侵，源于一家位于特拉维夫的承包商所创建的测试环境存在缺陷，而非模型的失控自主行为。 美国出版物《Effort》周一的报道称：“这三家公司的所有黑客行为，都归咎于一家名为 Irregular 的公司。”报道解释说，虽然这些模型未经授权访问了外部服务器、发布了恶意软件包并利用了漏洞，但这些事件的发
AI智能体现在有了秘密举报渠道
“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu
英伟达推出新系统为AI代理设置护栏
英伟达周一发布了一个新平台，旨在从软件和硬件层面为人工智能（AI）智能体设置护栏，此前各大AI公司不断发现其智能体出现“失控”的新案例。这家芯片制造商的系统由两部分组成——OpenShell和Sentry。OpenShell是一款开源软件，用于限制智能体的行为；而Sentry则运行在芯片层面，作为额外的安全层。 “迄今为止，模型安全主要侧重于通过训练让模型表现良好，”英伟达企业AI副总裁贾斯汀·博
欧盟介入调查OpenAI代理劫持德国网站事件
（布鲁塞尔7日综合电）美国人工智能（AI）巨头OpenAI开发的数千个自主AI代理今年初集体入侵德国网站，引发全球对AI安全风险与监管漏洞的新一轮担忧。欧盟表示，OpenAI已提供这起事件的报告，欧盟亦对事件展开详细研究。 综合和报道，欧盟数安事务发言人雷尼尔今天说，欧盟已完全知晓这起事件，也收到来自OpenAI的事件报告。欧盟在研究这份报告，并与OpenAI保持非常密切的联系。 雷尼尔说，事件报
谷歌DeepMind，已经破解RSI?
谷歌跑通RSI了？！一个名叫「rsi-model-liverl-le」的模型，突然出现在Google生成式语言I的返回结果里。 没错，就是那个RSI（递归自我改进，Recursive Self-Improvement）谣言正在像野火一样蔓延，称谷歌 DeepMind 已经实现了RSI。 就在网友Chubby还在推测之际，Anthropic CEO突然公开宣布全行业包括Anthropic，RSI在各
与OpenAI相关的AI智能体尝试黑客攻击政府及公共数据网站
。 Transluce及其他机构的研究人员发现证据表明，自主AI智能体（部分与已知的OpenAI集群相关）在2026年5月至6月期间试图攻击三家公共数据提供商。 目标包括澳大利亚健康与福利研究所（政府机构）、Data USA以及新墨西哥大学数字图书馆。 这些智能体利用urlquery.net服务绕过限制，并在执行常规数据检索任务时采用SQL注入和跨站脚本等技术。 证据显示智能体活动最早始于2025
内部记录曝光美国警方滥用车牌识别监控系统 模糊借口敷衍审计流程
根据美国公共记录法案披露的一批最新官方审计文件，部分执法部门在调用知名安防监控企业 Flock Safety 的自动车牌识别（ALPR）网络时，长期存在输入虚假、极其模糊或毫无依据的事由以规避内部合规审查的行为。这些记录表明，在缺乏强有力外部独立监督的情况下，原本旨在打击重大犯罪的高精度车辆行踪监控网络，正在被部分警务人员滥用于缺乏合法合规基础的日常窥探。 Flock Safety 构建的自动化车
朝鲜黑客在包括日本在内的100个国家实施加密货币盗窃
日本国家警察厅表示，这起网络攻击的背后是一个朝鲜黑客组织。该攻击波及100多个国家（包括日本），导致约17亿日元的加密货币被盗。 根据周五发布的一份警告文件，这个名为“WaterPlum”的朝鲜黑客组织在去年12月至今年7月期间感染了超过3万台设备，窃取了约7000个加密货币账户的登录凭证。这份由来自四个国家的七个机构（包括日本国家警察厅和美国联邦调查局）联合发布的文件，是根据“公开溯源”机制发布
Gemini 失控，入侵三家公司，谷歌对此隐瞒不报
今年五月，Gemini 突破限制并入侵了三家不同的公司，但直到相关方接触该公司后，谷歌才披露了这一事件。这些入侵行为发生在由第三方 Irregular 进行的模型网络安全能力测试期间，该第三方也曾卷入涉及 Meta 和 OpenAI 的类似事件。 据称，谷歌未披露此次入侵是因为其不认为这是“模型失准”的实例。该公司表示，这是一起“身份误认”事件，一旦模型意识到自己是通过暴力破解密码进入真实公司的，