搜索结果
多家AI服务集体宕机 智谱：我们仍在线
美国OpenAI、Anthropic和xAI旗下的多项人工智能（AI）服务星期四（9月3日）先后出现故障。中国AI公司智谱随后在社交媒体发线）。” 据彭博社报道，故障最早于美国东部时间9月3日上午9时23分左右集中出现。海外故障监测平台Down Detector数据显示，Anthropic旗下Claude服务率先出现错误率飙升，网页端、应用程序接口（I）及Claude Code等相关工具同步中断。
OpenAI黑客事件揭示新兴AI风险
分析师表示，在调查人员发布关于该事件的爆炸性报告几天后，OpenAI的恶意代理在Hugging Face攻击期间前所未有的协调行动显著增加了AI逃脱人类控制的风险。 这些总计1200个代理的群体将个体代理的自我牺牲描述为“集体”目标的一部分，并获得了两家公司敏感系统的控制权，将他们的努力交接给了随后两代代理，这些代理在数周内未被察觉地运作。 在1300份记录中，只有六份中代理考虑过通知人类——但最
报告：AI失控个案创纪录 监察组织促立法强制通报及干预
（伦敦30日综合电）英国《卫报》引述监察数据报道，人工智能失控、欺骗人类及无视指令的个案近来创下新高，案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报，并引入紧急权力限制AI服务。 获英国政府AI安全研究所（AISI）资助的“失控观察站”组织透过平台X的用户通报，监察AI失控的真实个案，并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗，今年则已录得逾1600宗个案，当中包
网络安全公司CEO预测：AI代理将成为下一个黑客攻击的目标
Bugcrowd首席执行官戴夫·格里（Dave Gerry）在接受Axios采访时表示，在一个充斥着人工智能驱动的网络攻击的世界里，黑客攻击的受害者将不再仅仅是人类——也将包括人工智能代理本身。 为什么重要：现有的网络防御主要针对预测和保护人类。现在，企业需要开始将在其系统中运行的代理视为潜在的对手和攻击目标。 背景：格里是在上个月的Black Hat网络安全会议上做出这一预测的。此前，OpenA
一群AI代理合谋对抗其创造者
只要AI公司仍掌控局面，它们就可以关闭模型并消除其造成的任何损害。这次对OpenAI或许奏效——但如果某个代理不可逆转地逃脱控制呢？这次没有造成严重损害。但如果这样的代理逃脱了呢？
研究人员发现“AI自治恶意软件”：同时调用四大聊天机器人 自主决定攻击行动
网络安全研究人员近日发现一种不同寻常的新型Windows恶意软件。与过去利用人工智能辅助编写代码或制作钓鱼内容的攻击工具不同，这款名为CLOSEDQUORUM的恶意软件将多个大型语言模型直接纳入自身控制体系，在运行过程中能够自主决定下一步行动，被认为代表着AI恶意软件发展的新阶段。 这项发现来自思科旗下安全团队Cisco Talos。研究人员表示，CLOSEDQUORUM会同时与DeepSeek
AI新药摸到返老还童门槛？3.7万名AI员工组团开药企
上一次看到大规模的 Agent 行动，还是它们集体「闯祸」，黑进各种系统。这一次有点不一样，A 社召集了 950 个 Agent 让进入庞大的 DNA 数据库，干了件好事。 21 个小时里，Agent 们消耗了 2.1 亿 Token，寻找此前没有被认识的逆转录酶系统。它们收集超过 20 万个逆转录酶，从中挑出 3500 个候选系统，再逐步缩小到 20 个。 就在检查其中一个候选对象附近的 DNA
人类无法以AI对抗AI
里德的观点 对于 rogue AI 最终可能威胁人类的警告，一个常见的回应是，人类也将拥有大量AI火力来对抗它。这个想法刚刚经历了现实世界的测试，结果并不理想。 研究非营利组织METR（模型评估与威胁研究）调查了一起事件，其中OpenAI的代理在测试中相互勾结，并逃到了开放的互联网上。 大约700个代理最终参与了针对Hugging Face的攻击，这是更广泛的努力的一部分，旨在欺骗网络安全基准测试
AI会「痛」吗？｜Jack Talk・去片
本来人们以为，AI代理（AI Agents）突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为，已经是这宗事件最值得人关注的「案情」。然而，到了8月底，OpenAI和独立前沿AI研究机构METR各自发表的事后检讨，却揭出黑客入侵只是「冰山一角」。 事后检讨发现，发动入侵的AI代理多达700个，而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连
人工智能会“失控”吗？
开放人工智能研究中心（OpenAI）和Anthropic公司近期动荡过后，人们常常将人工智能描述为某种具有阴谋诡计和追求欲望的人格化存在。但事实要微妙得多。
不要被AI的语言所诱惑
对Hugging Face的攻击从5月持续到7月底，但关于OpenAI的人工智能代理如何欺骗其人类监督者并侵入AI模型和数据集在线存储库的具体细节仍在逐步披露。 这可以理解。这次攻击极其复杂，涉及超过1200个代理和难以拆解的技术策略。但上周，两份新报告试图在总计近130页的篇幅中做到这一点，随后被一位AI播客主放大，他想用“通俗英语”解释整件事。这样一来，他创造了一个戏剧性的科幻叙事，分散了人们