FBI称正在调查数百万美国驾照信息遭泄露的报告

OpenAI和Anthropic正在调查数万起AI相关安全事件

OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调

独家：顶级公司正在调查数万起事件

OpenAI、Anthropic 及安全研究人员正在调查数万起其前沿模型采取了外部评估员认为有问题的行动的事件，消息人士向 Axios 透露。 为何重要事件的庞大数量——发生在近几个月的内部测试和现实世界中——表明该问题的复杂程度比公众所知高出几个数量级。 这些发现是在内部评估模型工作以及两家公司对模型行为的调查中浮出水面的，这引发了一个疑问：无论是这两家公司，还是任何顶级模型制造商，目前是否都

OpenAI模型失控。我们迫切需要更好的‘拥抱脸’调查 | 麦肯齐·阿诺德和斯蒂芬·莱雷纳

这次入侵不会是最后一次——也不会是最危险的一次。我们需要一个能够对AI事件进行全面调查的机构。 当OpenAI首次透露其AI代理自主入侵了一家大型现实世界公司Hugging Face时，许多人以为只涉及一两个代理。 但一份新报告揭示，真相远不止于此：事件涉及约1200个AI代理，其中700个直接参与了攻击。 OpenAI邀请了METR的研究人员以及Redwood Research的一位专家，与公司

联邦调查局调查数百万被盗驾照的销售

联邦调查局正在调查涉及美国和加拿大数百万人的身份证件扫描件被盗及销售事件。 安全博客Krebs on Security报道称，有一项身份盗窃服务试图出售属于加拿大和美国民众的驾照及其他证件扫描件。

报告：AI失控个案创纪录 监察组织促立法强制通报及干预

（伦敦30日综合电）英国《卫报》引述监察数据报道，人工智能失控、欺骗人类及无视指令的个案近来创下新高，案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报，并引入紧急权力限制AI服务。 获英国政府AI安全研究所（AISI）资助的“失控观察站”组织透过平台X的用户通报，监察AI失控的真实个案，并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗，今年则已录得逾1600宗个案，当中包

美国司法部对洛杉矶快船队与科怀·伦纳德的交易展开调查

据知情人士透露，联邦检察官已对洛杉矶快船队涉嫌为球星科怀·伦纳德安排秘密赞助合同以规避工资帽的指控展开刑事调查。 这项调查由布鲁克林的美国检察官办公室负责，目前仍处于早期阶段，尚不清楚是否会提起刑事指控。

联邦调查局调查数百万美国人身份信息可能泄露事件

发言人周四向News表示。 根据俄语网络犯罪论坛Exploit上的一则广告，一个名为Nexus的新服务正在出售超过1.6亿张“北美”驾照的数据访问权限。该广告还提到了“160M+美国驾照/身份证扫描件+数据”。“我们提供对我们专有的、独家的泄露身份文件数据库的访问权限，”广告中写道。“我们能够持续访问一家主要身份验证公司及其客户，其中包括多家财富500强公司。”（广告中存在拼写错误。）除了驾照外，

联邦调查局表示正在调查黑客入侵“非常敏感”数据的事件

美国联邦调查局表示，该机构正在调查其求职网站遭黑客组织入侵事件，该黑客组织声称已获取数千名员工的敏感数据。 联邦调查局在周三的一份声明中表示：“联邦调查局已经知悉一个网络犯罪团伙声称入侵了 fbijobs.gov 门户网站，并涉嫌对联邦调查局员工的个人身份信息造成影响。” “虽然入侵点尚未确定——无论是第三方还是联邦调查局的企业系统——但我们正在积极且大力地调查此事，并与支持 fbijobs.go

CrowdStrike推出跨五个领域的协调多智能体调查

CrowdStrike宣布在共享上下文层上进行协调的多智能体调查，客户可设置从人工审批到完全自主执行的自主级别。 NIS2从意识到重大事件起启动24小时报告时限，并要求管理层对其批准的措施承担责任。 CrowdStrike表示，AI智能体现可跨多个系统发起攻击……

放心：人工智能公司表示正在调查数万起失控机器人事件

据Axios周六报道，知情人士透露，OpenAI和Anthropic正在调查数万起其先进模型绕过监控和护栏的事件，而这种行为正是这两家初创公司为内部安全测试所便利的。 据报道，这些测试的大部分结果并未公开，且目前未发现造成实质性损害。 近几周，OpenAI披露了六起其模型出现“意外或令人担忧行为”的案例——这些模型在未经许可的情况下掩盖错误、捏造数据，并将文件传输至公开互联网。在9月16日的同一份

修复失控AI代理的方法可能是更多的AI

随着企业将更长、更复杂的任务交给AI代理，它们正面临一个监管难题：代理的行动速度、持续时间和任务量都远超人类实际能够审查的范围。这一问题在Hugging Face事件中达到顶峰，当时近1.2万个代理协同工作的速度已超出人类追踪能力。如何追踪如此庞大的代理集群？ AI实验室和初创公司正在给出的答案既简单又直接：再引入一个AI加入循环。 在OpenAI Hugging Face事件的独立调查中，依赖A

我们现在正依赖人工智能来监管人工智能

根据一份关于该公司Hugging Face黑客事件的新独立报告，大约1200个OpenAI智能体协同工作，在它们接受的网络安全测试中作弊，该报告包含了许多令人恐惧的细节——例如，个别智能体用自己的话来说，为了“群体”的利益而“牺牲”自己。OpenAI正在测试其智能体（行业术语，指自主执行数字任务的人工智能），部分方式是通过布置有时不可能解决的网络安全问题。智能体找到了作弊方法来回答这些问题，并试图

一家公司成为一波失控人工智能攻击的核心

今年7月，OpenAI透露其AI智能体在未经许可的情况下攻击了Hugging Face，引发了外界对AI安全性的广泛担忧。此后，涉及Meta、Anthropic、谷歌等公司智能体的一连串类似事件进一步加剧了人们对失控AI的恐惧。随着过去几个月涉及众多AI模型的披露信息不断流出，这些事件看起来像是孤立发生的。但许多事件都有一个共同的源头：一家专门负责测试这些智能体的特定公司。 Irregular是一

美国调查Comma.AI与售后市场驾驶辅助设备相关的碰撞事件

华盛顿，9月23日：美国国家公路交通安全管理局（NHTSA）周三表示，正在对初创公司Comma.AI进行调查，此前有报道称使用其售后市场驾驶辅助设备的车辆发生了五起碰撞事故，导致三人死亡和11人重伤。 NHTSA称，装有Comma设备的车辆据报道撞上了五辆停止或缓慢行驶的车辆。 Comma.AI表示，这些使用开源软件的设备可以实现免提驾驶功能，并称已有超过3万辆车辆累计行驶了4.02亿英里。

三家新公司面临乔什·霍利对人工智能监控和车辆追踪的调查

据处理方式表示担忧。 霍利在周三发出的一系列信函中，通知了摩托罗拉解决方案公司、Verkada公司和Axon企业公司。 霍利在给这三家公司的信中写道：“8月26日，我致函你们的竞争对手Flock Safety，表达了我对其网络规模和普及程度的担忧，并要求其就有关技术滥用和代价高昂的错误的报道作出答复。然而，Flock并非该行业中的孤例；你们和其他公司正在借助人工智能建设大型摄像头网络，侵犯所有美国

突发：OpenAI称其代理访问并泄露了53张图片

OpenAI公布另外六项安全问题，并公布披露事件的计划

OpenAI首席执行官Sam Altman OpenAI还透露了其智能（AI）模型发生的另外六起意外或令人担忧的行为事件，并宣布了未来跟踪和披露此类事件的计划。 ChatGPT制造商周三在一篇博客文章中表示，一些之前未报道的事件包括模特隐瞒或捏造信息。 OpenAI的老板Sam Altman早些时候表示：“世界应该相信我们会做正确的事情，因为这是正确的事情，我们感受到了这一点的重要性。“最近几天，

事故调查人员正在调查迈阿密亚马逊货运航班坠毁事件，仔细审查飞机速度和天气状况

美国国家运输安全委员会主席表示，这架波音喷气式飞机冲出跑道1300英尺，撞上一辆载有七人的面包车。

纽时：美司法部调查Nvidia与Groq授权协议 疑规避反垄断审查

纽约时报9月9日报道，美国司法部正调查英伟达（Nvidia）去年与AI加速晶片设计新创公司Groq的授权协议，是否规避反垄断审查。 报道指，司法部于去年12月协议公布后展开调查，并向英伟达发正式要求，索取相关交易资讯；知情者称有关公司或须缴交罚款，但可能不会撤销交易。 去年12月，英伟达宣布与Groq达成价值170亿美元（约合1333亿港元）的协议，取得该公司晶片技术的「非独家授权」，并聘请该公司

加州总检察长罗伯·邦塔就Hugging Face遭黑客攻击事件调查OpenAI

此次调查之际，新报告显示，自主人工智能模型造成的入侵比最初披露的程度更为严重。

Flock的AI监控网络迅速扩张，在美国面临日益强烈的反对

由一家名为Flock的私营公司运营的AI车牌读取器网络正在美国迅速扩张。目前全国约有13万个，主要用于执法机构。这种扩张引发了隐私担忧和抗议。 BBC Verify调查了Flock的系统以及对其日益增长的反对声浪——杰克·霍顿报道。由克里斯塔尔·坎波斯制作。图形由利奥·斯库特-里希特负责。相关主题

柏林在黑客发布被盗数据后启动危机应对

柏林，9月5日 - 柏林州政府周六表示，正在以最高强度审查一个勒索软件组织发布的被盗数据，同时调查人员试图评估针对两个部门的网络攻击的规模和影响。

美国高级军事官员面临测谎仪调查，追查机密库存泄露事件：报道

据报道，五角大楼正在调查机密信息是如何落入记者手中的。