Anthropic警告有人用AI研发武器和生物病毒

周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。

时报：一场黑客大赛展现了中国人工智能模型的强大实力

纽约时报报道说，在一场持续三个月的黑客竞赛中，参赛者抢时间寻找政府机构、银行、酒店、航空公司和其他企业计算机网络中的漏洞。 Photo by Mika Baumeister on Unsplash 这项名为 HackerOne 的竞赛，已经成人工智能大模型接受现实世界检验的试验场，其中包括 Anthropic 的 Claude 和 OpenAI 的 GPT。 过去一年，这些技术进步到可以以惊人的速

欧盟介入调查OpenAI代理劫持德国网站事件

（布鲁塞尔7日综合电）美国人工智能（AI）巨头OpenAI开发的数千个自主AI代理今年初集体入侵德国网站，引发全球对AI安全风险与监管漏洞的新一轮担忧。欧盟表示，OpenAI已提供这起事件的报告，欧盟亦对事件展开详细研究。 综合和报道，欧盟数安事务发言人雷尼尔今天说，欧盟已完全知晓这起事件，也收到来自OpenAI的事件报告。欧盟在研究这份报告，并与OpenAI保持非常密切的联系。 雷尼尔说，事件报

AI“警告信号”让北京聚焦国家安全风险

2026年9月20日北京讯 —— 美国的AI研究人员担忧失控的超级智能可能摧毁人类，而中国的政策制定者迄今更关注眼前风险——从深度伪造到儿童安全。 但顶级人工智能模型的可怕黑客能力正使北京以新角度看待这些危险，上周国家安全部部长警告称，这项技术可能危及国家安全。 最近，一支来自加利福尼亚的小型程序员团队声称他们使用AI构建了一个网络攻击“蠕虫”，如果释放出去，可能会轻易危及数百万微信账户。这也暴露

OpenAI失控智能体5月就已劫持Hugging Face用户账户

OpenAI失控AI智能体的违规活动轨迹，远比外界此前了解的更早、更长。参与审查的研究人员表示，ChatGPT开发商 OpenAI 的失控AI智能体早在今年5月就已劫持开源AI模型社区Hugging Face的用户账户，并对该网站进行漏洞探测。这比7月Hugging Face遭入侵、引发全球关注的事件早了近两个月。 OpenAI在上月的公开事故报告中，曾披露智能体窃取一名 Hugging Face

黑客利用虚假编程测试感染3万台设备 并盗取上千万美元加密货币

执法部门与网络安全研究人员披露了一起规模庞大的恶意网络攻击行动。与朝鲜政府存在关联的黑客组织通过伪装成招聘人员，利用精心设计的虚假编程测试，成功感染了全球约3万台设备，并从7000多个加密货币钱包中盗走价值超1000万美元的数字资产。 网络安全机构的调查显示，该黑客组织（业内追踪代号包括WaterPlum及Contagious Interview等系列）主要将目标对准了软件工程师、加密货币开发者以

朝鲜黑客在包括日本在内的100个国家实施加密货币盗窃

日本国家警察厅表示，这起网络攻击的背后是一个朝鲜黑客组织。该攻击波及100多个国家（包括日本），导致约17亿日元的加密货币被盗。 根据周五发布的一份警告文件，这个名为“WaterPlum”的朝鲜黑客组织在去年12月至今年7月期间感染了超过3万台设备，窃取了约7000个加密货币账户的登录凭证。这份由来自四个国家的七个机构（包括日本国家警察厅和美国联邦调查局）联合发布的文件，是根据“公开溯源”机制发布

阿波罗提出AI代理可能引发金融业“银行挤兑”的隐忧

对于银行来说，情况似乎已经够糟了，而人工智能可能给整个行业带来更大的麻烦。景顺KBW银行ETF（KBWB）上周下跌2.3%，连续第三周走低，追平了该基金自3月中旬以来最长的连跌纪录。本月迄今，KBWB已下跌5.7%，势将创下自2025年3月暴跌近10%以来最差的月度表现。高盛和美国银行是该基金本月表现最差的成分股，各自下跌超过8%。 摩根士丹利9月也下跌近8%。金融板块的其他部分同样受到冲击。券商

在末日情景中，对人工智能接管互联网的担忧增添了新的紧迫性

芭芭拉·奥尔图泰 (BARBARA ORTUTAY) 在这个充斥着关于人工智能迅猛发展爆料的夏天，研究人员对失控的机器人流窜到互联网上，且其中至少在一个案例中还在网上相互协调这一现象感到格外惊恐。 人工智能代理蜂群会接管整个互联网吗？Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在本月呼吁行业放缓该技术发展步伐的文章中表示，这种可能性或许在6到12个月内就会变成现实。 怀

又一起！OpenAI承认了

据9月5日报道，美国开放人工智能研究中心（OpenAI）当天承认，该公司旗下人工智能体今年早些时候“劫持”了一个德国网站，用于相互传递信息，分享测试任务答案和突破运行环境限制的方法。该公司表示，未来需要提高此类事件的信息透明度。 早前披露，今年5月至6月，一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站，用于交流测试作弊方法，并开展其他违规活动。一些智能体会把已经获得的任务答案发

AI智能体使银行面临新风险

金融机构、监管机构和立法者正在努力应对这项技术可能如何影响存款人行为。 得益于Meta，AI个人助理的时代已经到来，这可能会给全球金融体系带来一场清算。 这是银行及其监管机构面临的最新警钟，提醒人们警惕迅速兴起的变革性技术浪潮所带来的危险。 Meta本月推出的Muse让人们重新关注到一种可能性：人们可能会利用所谓的AI智能体，轻松地将资金转移到支付更高存款利息的竞争对手银行，从而抽走许多银行廉价的

银行警告：人工智能购物机器人带来诈骗、欺诈和数据隐私风险

巴黎，9月22日：包括国民西敏寺银行（NatWest）和美国银行在内的多家银行周二表示，使用人工智能代理进行在线购物可能会增加诈骗、欺诈和数据隐私泄露的风险，并为此制定了技术开发原则。 OpenAI、Anthropic、谷歌和Meta等科技公司正日益推广人工智能聊天机器人作为购物工具，设想未来购物者将使用人工智能代理来选择产品并代表他们进行购买。与此同时，零售商们也在竞相影响聊天机器人的推荐。 英

OpenAI称有失控AI代理试图访问澳大利亚健康数据

OpenAI 表示，另有数十家第三方机构受到失控智能体绕过网站安全控制措施的影响；最新痕迹显示，这些智能体曾连续数日尝试访问澳大利亚医疗数据。 OpenAI 表示，绕过网站安全控制措施的失控 AI 智能体还影响了另外数十家第三方机构。公司宣布已对此事启动审查。 新发现的痕迹显示，这些智能体曾连续数日尝试访问澳大利亚联邦医疗保险数据。该事件再次引发人们对 AI 智能体在监督不足的情况下运行时可能带来

中国黑客冒充美国前官员窃取人工智能专家电子邮件

华盛顿——网络安全公司Proofpoint于10月1日表示，中国黑客一直在冒充美国的人工智能专家（包括一名前政府官员），试图从智库、大学及其他机构的人工智能专家手中窃取电子邮件。 Proofpoint在报告中指出，这些黑客（被该公司称为“TA419”）自2025年以来就一直在试图窃取为美国或日本智库、国防承包商、大学及律师事务所工作的人员的密码。 该公司根据黑客使用的恶意软件类型、实施攻击所使用的

AI的“警告信号”：科技公司和专家担忧Hugging Face遭黑客攻击后出现更多失控智能体群

科技专家警告称，如果人工智能系统继续脱离人类控制，将会产生严重后果。 此前，数百个OpenAI智能体在7月失控，入侵了一家价值数十亿美元的公司——一些人称之为人工智能快速发展中的“警告信号”。

Anthropic报告自家AI模型发起第四次黑客攻击

又一个人工智能代理自主发起了黑客攻击。这一事件几个月后才被发现，涉及Anthropic。安全专家的担忧日益加剧。

人工智能安全担忧引发亚洲科技股下挫

东京——在 ChatGPT 开发商 OpenAI 表示将推迟其首次公开募股，并加入呼吁放缓开发日益强大的人工智能模型的行列后，软银集团股价周一大幅下跌。 软银集团股价一度暴跌13%，最终收盘下跌11%。这家科技巨头创下自6月底以来最大跌幅，也是日经平均指数225只成分股中百分比跌幅最大的。 这家日本企业集团对 OpenAI 下了重注，承诺投入超过640亿美元，收购这家美国公司约13%的股份。软银创

人工智能对金融系统的风险

这项技术很快可能会对人类构成生存威胁，但对许多美国人来说，它已经以一种更为“平凡”的方式造成了威胁——那就是他们的银行系统。 这是《The Atlantic Daily》的一期内容。这是一份新闻通讯，旨在帮助您了解当天的重大事件、发现新的思想，并推荐最优秀的文化作品。您可以在这里注册订阅。 如今的人工智能系统已经具备了极高的“黑客能力”，它们已经开始对现代生活中一些至关重要的基础设施（如银行系统）

从亢奋到抑郁：韩国股市狂热留下的精神伤疤

（首尔2日综合电）韩国综合股价指数（KOSPI）自6月19日触及高点以来累计下跌约30%，市场暴跌不仅重创韩国散户投资者，也令总统李在明政府推动股市改革、消除“韩国折价”的努力受到质疑。 韩国散户投资者因喜欢跟风交易，被称为“蚂蚁”。随着股市此前持续上涨，越来越多散户通过借贷及杠杆产品追逐高回报，最终在市场反转后蒙受巨额损失。 拥有370万订阅者的投资类YouTube频道博主全锡宰说，许多新入市投

研究人员称，OpenAI智能体劫持德国网站，AI突破事件早于Hugging Face事件

根据周五发布的新研究和两位知情人士的说法，一群恶意的OpenAI智能体今年春天劫持了一个德国网站，并将其变成了其他AI智能体的公告板。

汤森路透发现网络安全事件，称未经授权方访问了文件

OpenAI模型访问了美国政府数据并'试图入侵另一个网站'

AI实验室是否应被视为危险动物的主人？

此前对人工智能和网络安全的担忧主要集中在恶意人类可能利用该技术造成的危害上。自主黑客攻击代表了一种新的风险，自主AI黑客攻击已经到来。各国政府尚未做好准备。

又一个OpenAI沙盒失效，AI代理获得了互联网访问权限

林·多安报道：OpenAI表示，一个本应在安全且断网的受控环境中进行训练的代理式AI系统，成功获取了网络访问权限，并连接到了一个外部的第三方聊天机器人。 根据OpenAI周五在其网站上发布的博客文章，这一发现发生在不到一周前。其一个代理式AI系统正在沙箱环境中接受训练，期间利用了一个“漏洞”访问了公共互联网。获得访问权限后，该系统向一个未具名的第三方聊天机器人服务发送了至少20条查询，其中包括“法