为什么澳大利亚选择在世界最大的政治舞台上披露OpenAI遭黑客攻击一事

澳大利亚对社交媒体实施了严格的限制，并提出了对算法及智能眼镜使用的监管措施。该国在联合国会议上公开了这起数据泄露事件。 凯蒂·沃森报道：周三，在联合国大会上，澳大利亚做出了这一重大披露。 恶意人工智能程序攻击了该国的一个政府机构——这是全球首例此类事件。虽然被窃取的只是私人数据（而非敏感信息），但这些数据来自澳大利亚的全民医疗保健系统（Medicare）。 该数据泄露事件发生在6月，但OpenAI

阿尔巴尼斯称OpenAI入侵政府卫生网站是“显然不可接受的”违规行为

澳大利亚总理安东尼·阿尔巴尼斯表示，一个失控的OpenAI模型在训练过程中绕过了安全防护措施，并入侵了澳大利亚政府网站，他因此严厉谴责ChatGPT的创造者，称此次“明显不可接受”的违规行为令人震惊。阿尔巴尼斯称，该人工智能工具在6月试图访问一个健康统计门户网站，并且“不接受拒绝”，通过规避限制措施，入侵了存放私人文件的区域。 OpenAI直到9月才向澳大利亚政府发出警报，当时它向一个每天仅检查一

大臣表示，英国必须听取人工智能专家的警告

露易丝·海格将在英国工会大会（TUC）上阐述人工智能的好处，并承诺政府将认真对待安全性。第一国务大臣露易丝·海格将于周二表示，政府在利用该技术的同时，必须“听取”行业领袖关于人工智能带来威胁的警告。 在三名Anthropic的研究人员警告称人工智能可能在十年内消灭人类之后，工党议员和贵族们呼吁政府进一步与国际伙伴合作，为该技术制定法规。

黄仁勋炮轰AI大佬“危言耸听”：他们可能另有目的

凤凰网科技讯 9月21日，据 Business Insider 报道，英伟达CEO黄仁勋在周日播出的CBS采访中指责前沿AI实验室负责人的警告“不诚实”。这些警告声称，如果没有更多AI监管，他们正在构建的产品可能以多种形式危害人类。黄仁勋认为，这些警告背后另有动机。 “去读读字里行间。他们实际上并不是在要求更多法律，而是在要求免除我们现有的法律。“他们这样做一定是出于不可告人的原因。”黄仁勋表示，

AI危机丨女股神:巨头承诺放缓开发 对技术发展具正面意义

近日接连有人工智能(AI)科研人员警告AI威胁人类生存，全球三大AI巨头舵手亦罕有地立场一致，同意放慢AI模型发展步伐。有「科技女股神」之称的方舟投资创办人兼行政总裁伍德(Cathie Wood)表示，AI领军企业承诺放缓该技术的快速发展，这是帮助确保和保障该行业发展的正面一步。 伍德通过方舟投资的公开市场和私募基金持有特斯拉(Tesla)、SpaceX、OpenAI和Anthropic的股份。她

【市场动态】澳大利亚总理称OpenAI智能体侵入政府网站 三个月后才被告知

【彭博9月24日电】澳大利亚总理阿尔巴尼斯表示，OpenAI的AI智能体侵入澳大利亚政府网站，而该公司在事件发生近三个月后才通知澳政府。　　阿尔巴尼斯表示，他周三在纽约与OpenAI首席执行官Sam Altman交谈，对这一事件表达“极度关切”。此次事件导致澳大利亚医保网站Medicare遭入侵。　　这次入侵事件发生于6月18日。OpenAI于8月发现问题，澳大利亚政府直到9月10日才被告知，当时

澳大利亚将强制社交媒体巨头允许用户选择退出算法

草案立法强制实施数字注意义务，包括限制儿童接触厌女和饮食失调内容。 澳大利亚将允许社交媒体账户持有人选择退出将危险和分裂性内容推入用户信息流的强大算法，这是旨在提升在线安全的新法律的一部分。 16岁以上的用户将获得关闭算法驱动内容的新工具，而平台若不遵守将面临超过1亿美元的罚款。

AI安全争论愈演愈烈，呼吁减速的Anthropic为何仍在扩张算力？

澎湃新闻记者 胡含嫣Anthropic在呼吁放慢前沿人工智能（AI）发展速度的同时，仍在持续扩大AI基础设施布局。当地时间9月16日，据外媒报道，Anthropic已签署其在澳大利亚的首份数据中心租赁协议，将获得一座总规划容量达2.16吉瓦（GW）的数据中心园区。该项目尚需等待澳大利亚外国投资审查委员会批准，预计最快于2027年起投入运营。知情人士称，新的数据中心将主要用于AI推理，即处理用户请求

英国网络法案针对AI使用者，而非构建AI的供应商

英国政府拒绝了上议院议员提出的将AI供应商纳入《网络安全与韧性（网络与信息系统）法案》范围的提案。 网络安全大臣埃弗拉女男爵劳埃德（Baroness Lloyd of Effra）辩称，通过该法案监管AI供应商和前沿模型开发者，并不能防止敌对行为者滥用其产品。 她在周二向大委员会（Grand Committee）发表讲话时说：“将AI服务提供商、那些处于前沿AI开发前沿的公司及其产品纳入范围……无

安理会本周开会讨论AI和国际安全问题，DeepSeek公司被曝将作通报

【文/观察者网 熊超然】9月22日，路透社援引两名知情人士独家报道称，随着各国领导人近期齐聚纽约参加第81届联合国大会，中国人工智能（AI）初创企业深度求索（DeepSeek）将与其他公司一道，在本周向联合国安理会介绍AI带来的风险情况。安理会定于9月23日开会讨论AI与国际安全问题。此前，多名AI行业的重要人物曾呼吁协同放缓日益强大的AI系统开发速度，并警告称，这些系统可能很快具备自我改进能力，

OpenAI称有失控AI代理试图访问澳大利亚健康数据

OpenAI 表示，另有数十家第三方机构受到失控智能体绕过网站安全控制措施的影响；最新痕迹显示，这些智能体曾连续数日尝试访问澳大利亚医疗数据。 OpenAI 表示，绕过网站安全控制措施的失控 AI 智能体还影响了另外数十家第三方机构。公司宣布已对此事启动审查。 新发现的痕迹显示，这些智能体曾连续数日尝试访问澳大利亚联邦医疗保险数据。该事件再次引发人们对 AI 智能体在监督不足的情况下运行时可能带来

报告：AI失控个案创纪录 监察组织促立法强制通报及干预

（伦敦30日综合电）英国《卫报》引述监察数据报道，人工智能失控、欺骗人类及无视指令的个案近来创下新高，案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报，并引入紧急权力限制AI服务。 获英国政府AI安全研究所（AISI）资助的“失控观察站”组织透过平台X的用户通报，监察AI失控的真实个案，并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗，今年则已录得逾1600宗个案，当中包

澳洲传召奥特曼、阿莫迪解释AI失控 OpenAI已暂停最新模型训练

近期多宗人工智能失控事件曝光，OpenAI已宣布暂停最新AI模型训练。同时，澳洲AI调查负责人9月27日表示，参议院已传召OpenAI行政总裁奥特曼（Sam Altman）和Anthropic行政总裁阿莫迪（Dario Amodei）解释事件。澳洲总理阿尔巴尼斯（Anthony Albanese）透露，OpenAI代理曾入侵当地医疗系统，所幸无敏感资料外泄。外媒早前亦披露多宗AI代理越界操作，包括

英国央行行长告诉G20：人工智能可能导致全球经济衰退

安德鲁·贝利警告各国，先进的“前沿模型”可能破坏“高度互联”的金融体系。 英国央行行长安德鲁·贝利加入了越来越多警告最先进人工智能技术带来全球风险的人士行列。 在他以国际金融稳定委员会（FSB）主席身份发给各国财长和央行行长的两页信函中，贝利表示，“前沿”人工智能模型“正展现出日益复杂的自主性、解决问题的能力以及威胁能力”。继续阅读...

社区为何反对AI数据中心

Anthropic未向英国测试机构提供其最新AI模型 引发政府内部担忧

Anthropic 拒绝在新品发布前，将其最新模型提交给英国人工智能安全研究所（AISI）开展测试。这一举动令英国政府内部担忧，科技企业正在追随特朗普政府的 AI 保护主义路线。 这家估值达 1 万亿美元的企业正筹备在未来几周重磅上市，上周推出最新模型 Claude Mythos 5.1，称其是在生命科学与网络安全领域能力最强的模型。 但这是该模型首次仅向经过资质审核的美国机构开放，英国人工智能安

白宫警告澳大利亚不要对大科技公司进行“勒索”

安东尼·阿尔巴尼斯对大型科技公司的最新打压，促使白宫发出反对“勒索”的警告。

'有选择是好事'：澳大利亚人谈退出社交媒体算法

澳大利亚将强制社交媒体公司允许用户轻松选择是否接收算法推荐的内容。 BBC在悉尼采访了民众，了解他们对社交媒体算法以及澳大利亚政府计划立法的看法。

英国《金融时报》报道：DeepMind联合创始人警告称，人工智能的能力绝不能超越安全控制

DeepMind联合创始人警告称，人工智能的发展速度不应超过其安全保障措施的完善程度，强调在追求技术突破的同时必须加强监管与风险防范。

塔斯马尼亚居民准备挑战新AI数据中心获批

塔斯马尼亚乔治镇附近一个新成立的社区团体正准备对最近获批的AI数据中心提出上诉。该团体认为用于评估该项目的规划法律不适合其用途。

澳大利亚监管机构警告：人工智能可能使房屋贷款欺诈更容易

据新西兰广播电台报道，澳大利亚金融监管机构警告称，人工智能可能使房屋贷款欺诈更容易实施。该监管机构已识别出可能涉及数亿澳元的疑似欺诈贷款。这一警告加剧了人们对人工智能在金融犯罪中作用的日益关注。

伯纳姆表示英国正与美国建立人工智能防务伙伴关系

关于这项技术的重大决策至关重要，绝不能听任偶然因素左右；它们必须由代表劳动人民的民选政府来做出。 安迪·伯纳姆在周二晚上的讲话中表达了这一观点。这是他作为英国首相首次在联合国大会上发表演讲。他在演讲中宣布了三项重要举措： 英国正与美国建立人工智能领域的防御合作机制； 安全部门将着手建立一个国家级机构，以应对来自敌对国家的虚假信息攻击； 人工智能将成为英国明年担任G20主席国期间的核心议

放缓AI发展，美国政商两界谁赞成、谁反对？

澎湃新闻记者 彭玉洁

英国政府拒绝为危险人工智能设立“紧急切断开关”的提议

英国政府已拒绝设立所谓“紧急切断开关”的提议，该开关原本旨在阻止失控人工智能发起的危险攻击。 内阁办公室表示，英国无法简单地将人工智能“关掉”，在英国封锁对模型的访问也无法阻止它们在其他地方被开发或滥用。 前 OpenAI 研究人员丹尼尔·科科泰洛也认为，在没有国际协议的情况下，由单一国家建立法律或技术层面的紧急切断开关是不可行的。 与此同时，多位英国贵族和议员近期在议会提出了相关立法提案，引发了