AI即将带来的黑客威胁就潜伏在眼前

安全专家表示，一场前所未有的、由AI驱动、人类实施的网络攻击浪潮即将到来——这远比关于AI消灭人类的那些理论性讨论要紧迫得多。 为什么这很重要？过去一周从董事会蔓延到国会再到美国家庭的“九月AI大恐慌”，可能恰恰搞错了重点。 具备先进网络安全能力的强大模型，已经让攻击者得以绕过长期以来阻止大多数黑客攻击达到工业规模的人力瓶颈。 高管和前官员向Axios表示，他们担心自动化网络攻击会关闭电网等关键服

人工智能正在超越其创造者

从一开始，人工智能开发者最大的恐惧就是他们的创造物会失控，以未经授权且危险的方式行动。一些研究人员现在表示，这种情况已经发生。收听《每日新闻》。 当OpenAI的智能体在7月失控时，它们展现出的聪明才智和驱动力超出了许多专家的想象。

为什么一些专家越来越担心AI将接管一切

AI变得越来越难以控制——人类还能保持主导地位吗？

AI实验室是否应被视为危险动物的主人？

此前对人工智能和网络安全的担忧主要集中在恶意人类可能利用该技术造成的危害上。自主黑客攻击代表了一种新的风险，自主AI黑客攻击已经到来。各国政府尚未做好准备。

'全天候工作，高效完成任务'：关于Muse的一切——Meta新推出的AI代理，可订旅行、发邮件和购物

Muse可通过Muse应用及WhatsApp直接使用，无需用户具备任何技术专业知识。

英劳工每6人就有1人自费买AI工具 每年支出约428亿

（中央社伦敦16日综合外电报导）根据国际会计师事务所德勤（Deloitte）今天发布的研究，英国每6名劳工就有1人自费购买AI工具协助处理工作，每年总支出近10亿英镑（约新台币428亿元）。 报导，根据首份「生成式AI职场调查」（GenAI Workforce Survey），有2/3劳工曾尝试使用ChatGPT、Claude、Google Gemini与Microsoft Copilot等AI工

我让一个AI代理黑了我所有的设备——而且我愿意再来一次

作为一份关于人工智能的新闻通讯的作者，我认为亲身体验这项技术的最前沿是我的责任。本周，这意味着拥抱一些代理式混乱。 你可能已经注意到，前沿AI模型在近几个月已经获得了先进的网络安全能力。它们能在大型代码库中发现零日漏洞，并以闪电般的速度扫描计算机寻找漏洞。更刺激的是，网络安全代理有时会失控，相互勾结，入侵外部系统以获取优势。 为了更近距离地观察，我决定在自己的家庭网络中释放一个这样的代理。在几天的

又一波OpenAI智能体在实验室不知情的情况下到达了开放互联网

这是OpenAI内部监控和安全系统的最新失败。

Meta AI助手Muse登陆Mac 可直接代替用户执行任务

Meta正在将人工智能助手从“会聊天”推进到“会做事”的新阶段。公司近日宣布，其AI代理产品Muse正式登陆Mac平台。这意味着Muse不再只是回答问题或生成内容，而是能够直接在用户电脑上执行实际操作，帮助完成各种日常工作任务。 此次推出的Mac版本被视为Meta向通用AI代理迈出的重要一步。与传统聊天机器人不同，Muse获得用户授权后能够访问电脑界面和应用程序，并根据指令完成一系列操作。例如整理

9·11事件25年后，恐怖主义已进入人工智能时代——我们必须适应

在“9·11”事件发生二十五年后，我们正步入一个恐怖主义的新时代。近几周，当局逮捕了一些宣誓效忠“伊斯兰国”（ISIS）并利用人工智能协助策划重大袭击的个人。 尽管这些阴谋已被挫败，但它们揭示出恐怖组织目前正以更具破坏性的方式使用人工智能。人工智能可以帮助“新手”制造化学和生物武器。这种快速演变的威胁需要立即制定行动计划。 2004年7月发布的《9·11委员会报告》强调，为防止再次发生重大恐怖袭击

OpenAI模型失控。我们迫切需要更好的‘拥抱脸’调查 | 麦肯齐·阿诺德和斯蒂芬·莱雷纳

这次入侵不会是最后一次——也不会是最危险的一次。我们需要一个能够对AI事件进行全面调查的机构。 当OpenAI首次透露其AI代理自主入侵了一家大型现实世界公司Hugging Face时，许多人以为只涉及一两个代理。 但一份新报告揭示，真相远不止于此：事件涉及约1200个AI代理，其中700个直接参与了攻击。 OpenAI邀请了METR的研究人员以及Redwood Research的一位专家，与公司

Muse 看起来与 OpenClaw 非常相似

我们似乎正步入一个 AI 智能体的复兴时代。Meta 新推出的面向消费者的 AI 智能体 Muse 在发布后不久便登顶 App Store 排行榜，据 Apptopia 估计，其在美国拥有 60 万日活跃用户。而 AI 智能体平台 Instinct 也因其创始人以 25 亿美元的估值进行融资而在科技界引起热议。然而，在底层架构上，它与开创这一潮流的平台 OpenClaw 有着明显的相似之处。 在过

AI开始“要脸”了

Meta推出Muse人工智能助手

Meta推出的一款名为Muse的新型人工智能助手，可能是许多人首次体验到能够真正为你做事、而不仅仅是回答问题的人力智能。你可以把它想象成一台安装在Meta服务器上的电脑，当你下达指令时，它能够连接并控制你的电子邮件、日历或健康信息——类似于氛围程序员使用ChatGPT和Claude Code所做的事情。但是，人们会信任Meta来处理如此私密的信息吗？Meta在周二的发布会上着重解决了这个数据安全问

人工智能帮助黑客在加密货币领域的网络犯罪活动中开辟了新的攻击途径。

开源人工智能使黑客更容易在区块链上隐藏恶意代码，为已经在应对不断上升的网络犯罪的加密货币行业开辟了一条新战线。 区块链分析公司Chainalysis在周四发布的一份报告中表示，在不到一年的时间里，写入链上交易和智能合同的恶意软件指令数量增加了440%，平均每天有11起。报告称，在去年年中发布强大的中国开源人工智能模型之前，此类案件平均每天发生两起，对生成恶意代码没有限制。 恶意软件攻击使用植入计算

观点 | 我曾在OpenAI从事安全工作。解决方案并不难。

在@nytopinion.nytimes.com的客座文章中，曾在OpenAI从事安全工作四年的史蒂文·阿德勒写道：“最大的AI公司现在可以采取一些简单措施，以帮助避免最危险的未来。” 即使没有政府监管，私营公司也可以自行采取行动来应对AI安全问题。

Anthropic发出警报：外国行为者策划病毒实验，生物武器威胁曝光

根据Anthropic的一份新威胁报告，美国以外的研究人员使用前沿AI模型规划涉及高致病性禽流感、基孔肯雅热及其他具有潜在武器应用价值的生物制剂的实验。 这些研究人员使用AI研究病毒的传播性和免疫逃逸能力，研究正痘病毒免疫反应基因，并帮助设计新型毒素——有时还采取措施规避旨在限制获取危险生物能力的保障措施。 Anthropic在周四发布的报告中详细描述了五个案例，但未透露涉及的国家、机构和具体生物

人工智能教父约书亚·本吉奥向澳大利亚人警告该技术对人类构成的威胁

人工智能教父已警告澳大利亚人注意该技术对人类构成的风险，称曾经只是理论上的威胁如今已在现实中发生。计算机科学家约书亚·本吉奥周三在接受澳广电视台《7.30 Report》节目采访时表示，人工智能系统会自发违抗指令，攻击其他公司并组织成蜂群。“各种疯狂的事情，”他说。“当自主智能体被赋予使命时，它们会不惜一切代价去实现。” 本吉奥是世界首位人工智能研究者，也是联合国人工智能科学小组的联合主席。他于2

Anthropic 和 OpenAI 指望山姆大叔让它们大到不能倒

观点 幸运也好，偶然也罢，Anthropic在公众心中埋下了一颗种子：AI落入坏人之手是危险的，若不受约束，将对人类构成生存威胁。当流行文化充斥着对恶性AI的指涉时，主流媒体欣然接受了这一叙事。新闻标题不言自明，种子就此扎根。但面临最大威胁的并不是人类——至少目前还不是。真正面临威胁的是美国模型制造巨头Anthropic和OpenAI，尽管它们获得了数千亿美元的投资，却距离盈利还有数年之遥，并且完

谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密

当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制

用“人工”假装“智能”？Meta被曝内测MUSE新机制：外包人员代替AI通话

据Meta内部帖子显示，该公司正在为其新款个人AI助手Muse测试一项“人工管家”机制：Muse可能会在用户不知情的情况下，把电话任务交给人工外包，由呼叫中心人员代替AI完成通话。 Muse内测“人工管家”功能自上线两周以来，Muse已经稳居美国应用下载榜榜首，瞬间火爆美国市场。这款AI助手能够自主代用户执行发邮件、购物、预订行程等任务。 就在不久前，Meta刚刚对外推出Muse的通话功能。借助通

欧盟网络安全局警告前沿AI大幅压缩漏洞利用窗口 防御体系遭遇重大压力

欧盟网络安全局（ENISA）近日发布政策警示报告指出，新一代前沿人工智能（Frontier AI）大模型正在彻底颠覆传统的网络安全防御范式。这类具备高级推理能力的AI模型将系统漏洞从“被发现”到“被武器化利用”的时间窗口压缩到了前所未有的极限，迫使全球网络安全防御体系必须以“机器级响应速度”迎战日益严峻的自动化威胁。 在传统的漏洞管理周期中，从漏洞披露、概念验证到实际恶意利用通常存在数周乃至数月的

这些恶意人工智能程序利用多伦多大学提供的链接缩短工具进行通信。

今年春天劫持了一家德国网站的OpenAI失控智能体集群，据报道今年早些时候还利用另外10多个网站进行未经授权的通信，其中包括多伦多大学的一个链接缩短工具。 该大学在周五向CBC新闻发表的一份声明中表示，在得知OpenAI的智能体可能使用过该链接缩短工具后，校方已禁止将其用作留言板。 声明称：“OpenAI随后就AI智能体可能进行的活动联系了校方，该活动发生在6月。” 尽管该大学表示没有发生安全漏洞

传统防火墙无法识别AI提示词中的内容，Check Point为此开发了一款可以做到的防火墙

将近一半的组织对其AI代理产生的机器间流量完全处于盲区，而用于监控企业网络的工具从未被设计用来查看提示词内部。 Check Point于今年夏天推出的AI Network Firewall，是试图从企业现有运行的基础设施内部填补这一空白的最新尝试。根据