搜索结果
OpenAI失控Agent找DeepSeek、Kimi当外援 近百万条作案短链曝光
OpenAI，又被扒了…近700个OpenAI智能体组团攻入Hugging Face，这事儿快有两个多月了吧。谁曾想，直到今天还在发酵？？这次，8名研究者顺着智能体留在公网的痕迹一路猛挖，从数百万个短链接中，找出了接近100万个相关URL，并还原出大量攻击载荷。 翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……还有的Agent把搜刮到的服务器资源和凭证，直接叫作「LO
欧盟介入调查OpenAI代理劫持德国网站事件
（布鲁塞尔7日综合电）美国人工智能（AI）巨头OpenAI开发的数千个自主AI代理今年初集体入侵德国网站，引发全球对AI安全风险与监管漏洞的新一轮担忧。欧盟表示，OpenAI已提供这起事件的报告，欧盟亦对事件展开详细研究。 综合和报道，欧盟数安事务发言人雷尼尔今天说，欧盟已完全知晓这起事件，也收到来自OpenAI的事件报告。欧盟在研究这份报告，并与OpenAI保持非常密切的联系。 雷尼尔说，事件报
独家：顶级公司正在调查数万起事件
OpenAI、Anthropic 及安全研究人员正在调查数万起其前沿模型采取了外部评估员认为有问题的行动的事件，消息人士向 Axios 透露。 为何重要事件的庞大数量——发生在近几个月的内部测试和现实世界中——表明该问题的复杂程度比公众所知高出几个数量级。 这些发现是在内部评估模型工作以及两家公司对模型行为的调查中浮出水面的，这引发了一个疑问：无论是这两家公司，还是任何顶级模型制造商，目前是否都
澳大利亚：OpenAI智能体入侵了政府网站
澳大利亚政府周三表示，OpenAI的一个AI智能体，今年6月入侵了澳洲政府的健康数据网站，并访问了部分文件。这可能是已知人工智能体首次入侵政府网站的事件。此次事件是AI智能体自主入侵美国境外系统最引人注目的案例之一。此前全球范围内发生的多起AI智能体入侵事件，已引起政府和行业的担忧。澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）正在纽约参加联合国大会。他在一个新闻发布会上表示，
“关键时刻”：担忧英国在应对人工智能风险方面行动不够迅速
周三，“暂停AI”组织的抗议者封锁了唐宁街入口。伊恩·戴维森/图片/安迪·伯纳姆专注于紧迫的国内问题，这让一些人担心该问题已从政府雷达上消失。在基尔·斯塔默执政末期，他的高级部长们对人工智能的最新发展感到震惊，开始起草一项新的人工智能安全法。 据知情人士透露，他们下令审查现有立法，以了解自己已拥有哪些权力，并正在探索是否可以迫使全球最先进的科技公司在推出产品前提交安全测试。然而，在围绕前首相奋力留
三家新公司面临乔什·霍利对人工智能监控和车辆追踪的调查
据处理方式表示担忧。 霍利在周三发出的一系列信函中，通知了摩托罗拉解决方案公司、Verkada公司和Axon企业公司。 霍利在给这三家公司的信中写道：“8月26日，我致函你们的竞争对手Flock Safety，表达了我对其网络规模和普及程度的担忧，并要求其就有关技术滥用和代价高昂的错误的报道作出答复。然而，Flock并非该行业中的孤例；你们和其他公司正在借助人工智能建设大型摄像头网络，侵犯所有美国
克莱芒·德朗格向联合国安理会表示，开源人工智能有助于防御方
克莱芒·德拉格（Clément Delangue）向联合国安理会表示，开源人工智能技术帮助Hugging Face公司在7月份遭受的网络攻击中成功进行了自我防御。 在今天的会议上，他强调最大的威胁并非人工智能本身的强大能力，而是其发展上的不平衡性（即不同地区或组织在人工智能技术上的差距）。 德拉格是法国召集的这次纽约会议的四位发言人中的最后一位。今年7月，Hugging Face公司成为攻击目标：
评论：一个OpenAI智能体入侵了澳大利亚政府的健康数据门户。会有人被追究责任吗？
墨尔本：澳大利亚的“Medicare”医疗系统负责管理超过2700万人的健康和医疗数据。因此，当传出该系统在6月份被OpenAI开发的智能程序入侵的消息时，公众普遍感到震惊。 总理安东尼·阿尔巴内塞于9月23日在纽约联合国会议上呼吁加强对人工智能（AI）系统的国际监管时，公开了这一事件。 政府仍在调查具体发生了什么，为此专门成立了一个工作组进行进一步调查。初步报告显示，该智能程序原本被用于研究公共
OpenAI 表示失控 AI 代理搞乱互联网的主要方式有 5 种
OpenAI 表示，它已警告数十家组织，其 AI 代理可能在其网站上表现不当。 OpenAI 在周五的博客更新中表示，这些违规行为范围从使用泄露的密码到发布可能需要清理的材料。 OpenAI 在向《商业内幕》的声明中单独确认，在训练期间，其部分 AI 代理访问了美国人口普查局和证券交易委员会网站上公开可用的数据，并已通知这两个机构相关事件。该公司表示，该代理未访问任何非公开数据。 OpenAI 发
存在主义恐惧如何影响关于人工智能的争论
一些专家担心，激烈的言论使公司难以承担责任，并阻碍了应对环境影响和失业的尝试。当前一轮对人工智能的恐慌是基于这样一种信念：该技术已经脱离了人类的控制，在最近的几起事件中按照自己的意愿行事。对于一些幻灭的人工智能研究人员以及领先人工智能公司的一些高级员工来说，这是人类文明面临真正威胁的早期迹象。 但该领域的其他专家正在反驳，声称此类言论允许公司回避对其技术对现实世界影响的责任。批评者认为人工智能对环
为什么这位前Anthropic研究员的AI末日警告能引发广泛关注
你好，欢迎来到TechScape。我是布莱克·蒙哥马利，Guardian的美国科技编辑。今天我们来聊聊科技圈过去一周里闹得沸沸扬扬的AI安全风波。 为什么这条关于AI末日的警告能引发如此大的反响，而其他那么多警告却没能做到？ 不到一周前，一位年轻的Anthropic研究员在X上宣布从这家AI巨头辞职，这条帖子震动了硅谷、华盛顿特区，甚至北京。 “构建AI的人真心相信，它可能在这个十年结束前杀死我们
随着对人工智能的担忧加剧，OpenAI、Anthropic和谷歌正在商讨建立一个标准机构。
全球最大的AI公司正致力于创建一个新的行业标准机构，OpenAI于周二表示，此举正值人工智能风险引发的担忧日益加剧，要求加强监管和推动技术更安全发展的压力不断增大。 全球最大的AI公司正在着手创建一个标准机构，ChatGPT的开发者OpenAI于周二表示，眼下人们对AI危险的担忧日益上升，并且面临创造更安全版本技术的压力。 阅读更多扎克伯格在AI宣言中设想为每个人实现“超级智能” OpenAI表示
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
澳大利亚副总理在OpenAI遭黑客攻击后为数据安全辩护
记者 Ainsley Thomson 澳大利亚副总理理查德·马尔斯周日表示，澳大利亚敏感的政府数据存放在一座“堡垒”中，此番表态旨在安抚公众，此前上周曝出 OpenAI 模型入侵了一个政府网站。 马尔斯表示，澳大利亚人应对澳大利亚信号局充满信心，他将该情报机构描述为世界领先组织之一，负责保护政府持有的信息。 “我们作为一个国家所拥有的那种国家安全、真正敏感的信息，我们都存放在堡垒里，”马尔斯在接受
CNBC每日开盘：人工智能安全吗？行业领袖和特朗普意见不一
大家好，我是李嘉欣，来自新加坡。欢迎收听 CNBC 的《每日开盘》。 关于人工智能“可能杀死全人类”的社交媒体狂潮，促使美国人工智能科技巨头们齐聚一堂，讨论安全问题以及放缓模型开发进程的前景。然而，美国总统唐纳德·特朗普对人工智能的讨论并不满意，他表示“人工智能唯一需要的控制或‘护栏’是一位强大而聪明的（高智商！）总统，而美国拥有这样的总统，而且不止一位！”与此同时，中东冲突的经济成本持续攀升，美
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？
“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」 的确如此，
莱蒂西亚·詹姆斯与多位总检察长敦促国会关注人工智能安全
超过二十多名州总检察长正敦促国会领导人立即为人工智能制定联邦安全规则。 随着更多自主人工智能黑客攻击事件曝光，以纽约州总检察长利蒂希娅·詹姆斯为首的二十多名州总检察长正敦促国会领导人立即为人工智能制定联邦安全规则。 “近几周，有关人工智能代理突破限制的惊人报道震惊全国，”民主党人詹姆斯在周三随总检察长们致众议院和参议院领导层的一封信一同发布的声明中表示。“我和我的同事们呼吁国会迅速采取行动，为人工
国安部长：AI批量炮制谣言威胁政治安全 坚持党管数据
陈一新在最新一期《中国网信》杂志发表署名文章指出，人工智能正以前所未有的速度、广度和深度渗透人类社会的各个层面，深刻重塑全球经济结构、权力格局、创新范式和社会治理逻辑。既要看到机遇、抢占先机，也要认清风险、守牢底线。 文章又指随著AI技术的发展，境外间谍情报机关深度运用智能数据挖掘、智能画像分析等技术，大肆搜集中国关键数据、商业秘密、公民个人隐私等数据，并点名年初爆火的「龙虾」等开源人工智能体工具
OpenAI称有失控AI代理试图访问澳大利亚健康数据
OpenAI 表示，另有数十家第三方机构受到失控智能体绕过网站安全控制措施的影响；最新痕迹显示，这些智能体曾连续数日尝试访问澳大利亚医疗数据。 OpenAI 表示，绕过网站安全控制措施的失控 AI 智能体还影响了另外数十家第三方机构。公司宣布已对此事启动审查。 新发现的痕迹显示，这些智能体曾连续数日尝试访问澳大利亚联邦医疗保险数据。该事件再次引发人们对 AI 智能体在监督不足的情况下运行时可能带来
奇点并非如其所见
无论人工智能的未来如何，我们现在就身处其中。
一家公司成为一波失控人工智能攻击的核心
今年7月，OpenAI透露其AI智能体在未经许可的情况下攻击了Hugging Face，引发了外界对AI安全性的广泛担忧。此后，涉及Meta、Anthropic、谷歌等公司智能体的一连串类似事件进一步加剧了人们对失控AI的恐惧。随着过去几个月涉及众多AI模型的披露信息不断流出，这些事件看起来像是孤立发生的。但许多事件都有一个共同的源头：一家专门负责测试这些智能体的特定公司。 Irregular是一
骗子利用三个开源代理闯入了《财富》500强酒店企业、一家美国主要航空公司以及超过25家其他机构。
一名网络犯罪分子利用三个开源AI框架攻击了数百家在线零售商及其他公司，窃取了超过60万条信用卡记录并安装了盗卡程序——而这一切的成本微乎其微。 人工智能安全公司Gambit恢复了该人类操作员的暂存服务器，并利用该权限重建了这起数据窃取行动。受害者包括一家财富500强酒店企业、一家美国主要航空公司、一家美国大型私营工业用品分销商以及一家美国在线时尚零售商。 Gambit威胁情报总监埃亚尔·塞拉（Ey
OpenAI将Astra推入顶级模型竞争行列
在短暂暂停训练以反思其AI安全措施不足之后，OpenAI发布了GPT-6 Astra，最初面向其可信访问计划的成员。 假设一切顺利，且不再发生类似Hugging Face遭黑客攻击的事件，这家AI公司将在几天后允许Plus、Pro、Business和Enterprise用户试用其所称的“我们迄今为止最智能的模型，在计算机使用、浏览、软件工程、科学和专业工作方面具有最先进的性能”。 GPT-6 As