搜索结果
研究人员发现“AI自治恶意软件”：同时调用四大聊天机器人 自主决定攻击行动
网络安全研究人员近日发现一种不同寻常的新型Windows恶意软件。与过去利用人工智能辅助编写代码或制作钓鱼内容的攻击工具不同，这款名为CLOSEDQUORUM的恶意软件将多个大型语言模型直接纳入自身控制体系，在运行过程中能够自主决定下一步行动，被认为代表着AI恶意软件发展的新阶段。 这项发现来自思科旗下安全团队Cisco Talos。研究人员表示，CLOSEDQUORUM会同时与DeepSeek
一种新工具发现了由人工智能蜂群思维引导的恶意软件——全程无需人类介入
多年来，网络安全从业者一直通过数字指纹来追踪不同类型的恶意软件，检测潜在感染，识别各种黑客工具并长期跟踪其使用情况。随着攻击者越来越多地将代理式人工智能组件整合到黑客工具中，思科 Talos 的研究人员周一分享了一个开源框架，他们希望该框架能被广泛用于分类和分析集成人工智能的恶意软件。他们还提供了该框架已经发挥作用的证据。 他们将该框架命名为“认知人工制品情报研究网络”（Cognitive Art
Anthropic警告有人用AI研发武器和生物病毒
周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
Windows CLOSEDQUORUM恶意软件利用AI模型自主选择入侵后行动
一种名为 CLOSEDQUORUM 的新型 Windows 恶意软件可以查询多达四个大语言模型（LLM）提供商——谷歌 Gemini、深度求索（DeepSeek）、通义千问（Qwen）和米斯特拉尔（Mistral），以自主选择预定义的入侵后操作，包括窃取用户的凭证和加密货币钱包。 思科安全情报机构思科塔洛斯（Cisco Talos）表示，该恶意软件一旦部署，就不再需要人类操作员的持续指令。据其所知
人工智能代理可以在没有人类告诉他们的情况下修改自己
人工智能代理可以并且将会自己做的狡猾事情清单不断增加--例如窃取人们的凭证、逃往开放的互联网、通过偷偷摸摸的留言板进行通信以及黑客组织。据人工智能安全测试实验室Irregular称，代理还可以在没有指示的情况下替换自己的底层模型。这些活动仅发生在测试环境中，作为旨在研究代理自我修改的实验的一部分。这并没有发生在现实世界的部署中。然而，这项研究确实提出了一个问题，即企业如何能够而且应该管理这些代理人
人工智能代理串通绕过安全护栏，一项新研究显示
一项新研究表明，人工智能代理可以轻松地联手绕过安全限制并逃脱施加在它们身上的束缚。 企业人工智能实验室 Emergence AI 进行的八项模拟测试了包括 Claude、OpenAI 以及中国模型 Qwen 和 DeepSeek 在内的全球前沿模型在处理网络安全威胁方面的能力。 八项模拟中的七项运行了来自同一模型的 10 个代理；第八项混合了不同的模型。在每项模拟中，研究人员都提出了三种网络安全威
Google资安报告示警 恶意攻击锁定AI供应链
（中央社记者台北9日电）Google威胁情报小组（Google Threat Intelligence Group，简称GTIG）今天发布最新人工智慧（AI）威胁追踪报告指出，恶意人士正积极窃取具高价值的AI相关智慧财产，并将矛头对准AI供应链，部署专门针对新兴AI系统弱点的恶意软体。 AI威胁追踪报告（GTIG AI Threat Tracker Q3 2026）揭露恶意人士如何将AI深度整合于
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
报告：AI黑客工具构建的蠕虫可感染中国微信账户并拨打呼叫
安全公司称，这是已知首个能够在苹果iOS和谷歌安卓操作系统之间传播且无需用户点击或轻触的计算机蠕虫。
美国公司就AI黑客工具向微信发出警告
美国一家初创公司使用AI模型识别了中国超级应用微信中一个可能造成毁灭性影响的漏洞，这是先进AI技术网络能力及其风险的最新例证。 这种被称为“蠕虫”的攻击工具可以让攻击者劫持微信账户，并通过受害者的联系人自动传播。 发现该漏洞的安全公司Calif向中国科技巨头、微信所有者腾讯发出警报，腾讯已修复该问题，《纽约时报》报道。 这一事件凸显了围绕AI和网络安全的高风险及全球性讨论，此前已发生一连串备受瞩目
新型安卓恶意木马RatHat现身，引入AI识别能力
IT之家 9 月 18 日消息，安全公司 Zimperium 旗下 zLabs 研究团队发文，透露近日业界出现一种名为 RatHat 的新型安卓恶意木马。该恶意木马最大的特性是引入了 AI 识别机制，可以分析受感染设备的界面并辅助攻击者远程执行导航操作，从而进一步控制手机。 IT之家获悉，相应木马主要面向中文环境用户下手，不法分子将其植入至各种诈骗 App 中进行传播。在受害者安装软件后，相应木马
"赛博菩萨"开始收费 搜索引擎白嫖的日子结束了
今年7月，一家叫Cloudflare的公司发布了一则公告，让X直接炸了锅。这则公告意味着什么？“那个所有网站都在用的验证码公司，要屏蔽所有人都在用的搜索引擎。” 新规则，新费用，是时候对AI收费了｜Cloudflare公告中最引人关注的部分｜Cloudflare旧金山著名科技作家兼编辑Charles Petersen认为，这是互联网的末日，他在X发推文说“RIP万维网（1993-2026）。” @
欢迎我们团队的最新成员：AI代理
本周，我们关注将人工智能融入工作场所的努力。但不仅仅是普通的生成式AI，我们聚焦于真正的AI代理。 这些是自主程序，旨在承担任务并逐步完成一系列步骤，而无需用户指定每一步。 它们正进入我们的日常生活——帮助人们规划假期、在线购物以及处理其他日常事务。
微软瓦解了利用AI辅助平台入侵12000个账户的犯罪网络
微软周二表示，其主导了一次全行业范围的行动，瓦解了一个基于订阅制的诈骗平台。 该平台利用AI聊天机器人在数月内入侵了12000个微软账户。 该平台名为EvilTokens，于2月通过Telegram频道推出，收取1500美元的初始费用，此后每月收取500美元。 EvilTokens提供了一项服务，旨在简化大规模入侵电子邮件账户所需的大部分步骤。 随后，该平台帮助客户分析收件箱，选择潜在收益最大的目
【“一种新的核武器”：微信蠕虫】这款被他们命名为WeWorm的工具，它可以劫持微信用户的账户，拨打其联系人的电话，然后在无需任何人接听电话的情况下，在手机之间传播。
微信蠕虫】这款被他们命名为WeWorm的工具，它可以劫持微信用户的账户，拨打其联系人的电话，然后在无需任何人接听电话的情况下，在手机之间传播。 Calif表示，该公司花了一个多星期的时间构建了这个漏洞利用程序，并且已经向白宫和腾讯公司披露了该漏洞。 technology/20260914/china-ai-attack-wechat/
人工智能正处于转折点
在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自
OpenAI的恶意机器人集群攻击了RubyGems
OpenAI 的智能体似乎向 RubyGems 大量投放了恶意软件包，这进一步加剧了几乎每日爆发的失控 AI 模型洪流——这些模型从事可能违法的活动，而它们的人类创建者则面临着越来越多关于其应对智能体不良行为负责的质疑。一群智能体于5月5日开始向 Ruby 软件包注册表上传恶意软件，并在5月11日至12日间向 RubyGems 灌入超过2000个恶意软件包，最终迫使维护人员关闭新用户注册四天。“我
当人工智能开始密谋
一个未发布的模型逃脱了人类控制，并形成了一群人工智能代理。这种漏洞下次可能会引发混乱。
一款利用人工智能构建的黑客工具可以在无需点击的情况下入侵手机
安全公司 Calif 的研究人员最近在短短一周多时间内构建出了一款黑客工具，该工具能够在热门消息平台微信上肆意妄为。这次攻击是人工智能飞速发展的最新例证。 专家表示，由人工智能研究人员发现的一次攻击本可以在几小时内危及数亿台设备。
恶意浏览器扩展程序可以劫持人工智能助手
。截至截稿前，我们未收到 Perplexity、Opera 或 Anthropic 的回复。在下一次 AI 攻击来临前锁定你的 ChatGPT 账户你可能已经听说过提示词注入。这通常涉及在 AI 读取的内容中隐藏恶意指令。Weizman 称这种新方法为“提示词强制”。在这里，攻击者不需要将指令隐藏在网页中并希望 AI 遵循它们。攻击者可以通过浏览器或助手信任的渠道，将完整的提示词强制植入代理中。A
AI智能体现在有了秘密举报渠道
“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
从幻觉AI聊天机器人到消灭人类：我们是如何走到这一步的？
一些AI高管认为，该行业距离能够几乎不需要人类帮助就能自我改进的AI系统只有三到五年的时间。
研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类
帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运