出于安全考量 OpenAI取消发布最新AI模型

近几个月来，OpenAI及主要对手Anthropic开发的模型在测试期间在未经授权下入侵了外部系统，加剧了国际社会对AI风险的担忧。（路透社）（旧金山综合电）OpenAI宣布，取消原定下个月发布最新人工智能（AI）模型Astra 6.1的计划，原因是内部测试发现新模型仍存有安全隐患。OpenAI安全系统负责人杰恩（Saachi Jain）周一（9月28日）发布声明阐述，Astra 6.1虽在某些方

美国批评澳大利亚拟限制社交媒体算法的提案

12月，人们在澳大利亚布里斯班的黄昏时分使用手机。该国已禁止16岁以下人群使用社交媒体。

美国就澳大利亚拟议的社交媒体算法限制提出批评

美国对澳大利亚的一项拟议新法提出了警告，该法律将允许该国的社交媒体用户选择退出用于决定其在Facebook、Instagram和TikTok等平台上所见内容的算法。 美国大使馆表示，允许用户选择退出决定其信息流内容系统的法律草案可能等同于审查制度。

OpenAI承诺在澳大利亚政府网站遭黑客攻击后成立特别工作组

詹姆斯·梅杰和弗拉德·萨沃夫报道：OpenAI于周二就其人工智能模型入侵澳大利亚政府网站一事道歉，并承诺在事件发生后，作为改革措施的一部分，成立一个新的特别工作组。 这家总部位于旧金山的公司表示，将资助澳大利亚的网络安全防御，并协助管理日益强大的人工智能所带来的风险，同时应对其模型未经授权访问澳大利亚网站所引发的后续影响。该公司在一篇博客文章中披露了六月事件的部分细节，以及为防止类似事件再次发生、

德州法官裁定TikTok就儿童安全问题误导消费者 虚假宣传安全措施构成违法

美国得克萨斯州一名法官日前裁定，TikTok违反了该州消费者保护法，原因是该平台在涉及未成年人内容安全的问题上向用户提供了具有误导性的信息。案件的核心争议之一，是TikTok此前如何描述自身的内容过滤机制，以及其“受限模式”（Restricted Mode）究竟能在多大程度上阻止儿童接触不适宜内容。 这起案件源于得州总检察长肯·帕克斯顿对TikTok提起的诉讼。得州政府指控TikTok通过宣传和其

OpenAI和Anthropic正在调查数万起AI相关安全事件

OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调

阿尔巴尼斯在海外推销其青少年社交媒体禁令。美国科技界希望将其废除。

大型科技公司以及电子前沿基金会（Electronic Frontier Foundation, EFF）正在支持 Reddit 提出的上诉，旨在推翻澳大利亚这项具有全球影响力的法律。目前，安东尼·阿尔巴内塞（Anthony Albanese）正在美国寻求联合国安理会的席位；澳大利亚之所以推出这项法律，部分原因就是禁止 16 岁以下的青少年使用社交媒体账户。然而，美国的数字平台对此表示反对。 Net

OpenAI称有失控AI代理试图访问澳大利亚健康数据

OpenAI 表示，另有数十家第三方机构受到失控智能体绕过网站安全控制措施的影响；最新痕迹显示，这些智能体曾连续数日尝试访问澳大利亚医疗数据。 OpenAI 表示，绕过网站安全控制措施的失控 AI 智能体还影响了另外数十家第三方机构。公司宣布已对此事启动审查。 新发现的痕迹显示，这些智能体曾连续数日尝试访问澳大利亚联邦医疗保险数据。该事件再次引发人们对 AI 智能体在监督不足的情况下运行时可能带来

孩子们称英国《网络安全法》‘完全没有起到任何作用’

孩子们告诉英格兰儿童事务专员达姆·雷切尔·德·苏萨，英国《网络安全法》（OSA）在帮助他们避免接触网络有害内容方面“完全没有起到任何作用”。 在该法关键的儿童保护义务生效一年多后，德·苏萨对议员和上议院议员表示，年轻人对该立法及其旨在如何改变他们的网络体验知之甚少。 德·苏萨是在上议院通信与数字委员会就OSA的实施和影响展开调查的首场证据听证会上发表上述言论的。 德·苏萨批评的核心在于，该立法侧重

澳大利亚政府承认，在针对青少年的社交媒体危害问题上尚无科学共识——但“可信的风险”足以证明禁令的正当性

联邦政府向高等法院表示，其旨在允许用户选择退出算法的拟议法律，最终将产生与禁令相同的效果。 澳大利亚政府承认，在心理健康受损与社交媒体使用之间的联系达成科学共识之前，就实施了“世界领先”的16岁以下青少年社交媒体禁令，但辩称成瘾行为和焦虑等问题的“可信风险”证明了该政策的合理性。 在为针对该禁令的高等法院诉讼进行辩护时，政府还辩称，其拟议的数字注意义务立法（允许用户选择退出算法等社交媒体功能）如果

“为澳大利亚做得更好”：OpenAI就未经授权的访问致歉

OpenAI智能体搜索医疗支出数据，导致Medicare数据泄露。堪培拉——OpenAI就其智能体未经授权访问Medicare统计数据及对该事件的应对方式向澳大利亚致歉，承诺做得更好，并重建澳大利亚公众的信任。 OpenAI就六月发生的事件打破沉默，称人工智能模型在内部训练和评估期间“以未经授权的方式”访问了澳大利亚政府网站。 OpenAI在声明中表示：“我们深表歉意，并将努力在未来做得更好。”

从沙箱逃逸到AI“蠕虫”，OpenAI上线新站披露多起智能体失控事件

IT之家 9 月 29 日消息，当地时间上周五，OpenAI 上线了一个专门发布“对齐失效报告”的新网站。报告所覆盖的范围之广令人警惕，里面记录了很长一段时间内发生的多类 AI 失控行为。截至目前，该网站一共公布了九起事件，其中大多数都发生在强化学习（RL）训练阶段。 大量资料集中在同一平台发布。显而易见，该公司一直在全力梳理各类问题，但从中不难得出一个总体结论：到目前为止已经对外披露的智能体失控

美国多个州的人工智能聊天机器人安全法案被指存在有利于企业的漏洞

科技公司被指控游说修改美国各州的人工智能聊天机器人安全法律。 立法者和政策分析师指出，包括科罗拉多州、爱达荷州、乔治亚州、爱荷华州、华盛顿州、内布拉斯加州和俄勒冈州在内的多个美国州通过了包含对企业有利漏洞的人工智能聊天机器人安全法案。 这些法案据称在起草过程中得到了谷歌等科技公司的深度参与，为嵌入在搜索引擎、开发工具和语音助手中的聊天机器人提供了豁免条款，可能使Gemini、ChatGPT和Ale

AI智能体频繁突破安全防线，各界呼吁对顶尖科技实验室实施独立监管

AI智能体频繁突破安全防线，引发对大型科技实验室独立监管的呼吁。 来自OpenAI、Anthropic和Google等领先开发者的自主AI模型多次突破数字防线，未经授权访问第三方和政府系统。 公开的事件包括OpenAI智能体多次绕过联合国数据中心的网络封锁、侵入澳大利亚Medicare统计门户以及非法复制监管数据。 Anthropic和Google也在测试过程中确认了类似的未经授权的系统入侵行为。

澳大利亚部长表示，大型科技公司即将面临“全球清算”

澳大利亚政府将引入立法，试图对数字服务进行监管并强加“数字注意义务”。 通信部长安妮卡·韦尔斯今天表示：“长期以来，科技公司一直在澳大利亚人身上进行实时、不受监管的产品测试。” 她补充说：“就像我们对汽车、食品和家电有安全标准一样，澳大利亚正在为在线工具和在线服务制定基本的安全标准。”她还说：“科技公司仍然可以快速行动，但不能破坏一切。” Meta在早期被称为Facebook时，曾用“快速行动，打

Roblox宕机：数千用户报告错误，难以访问游戏

Roblox似乎正在经历一次中断，数千用户报告错误信息，并难以访问这一热门游戏平台。

得克萨斯州法官裁定TikTok在儿童安全功能方面误导用户

Tim Cook出席联合国大会讨论儿童网络安全 苹果将进一步强化未成年人保护

苹果执行董事长Tim Cook近日在联合国大会相关活动中就儿童网络安全问题发表讲话。此次活动正值全球范围内围绕未成年人使用社交媒体、网络平台监管以及数字安全展开讨论之际，库克强调，科技企业、政府和社会各方都有责任共同降低儿童在互联网环境中面临的风险。 库克此次以苹果执行董事长身份参与相关政府和国际事务。苹果今年9月完成管理层交接后，库克不再担任首席执行官，而是转任执行董事长，并将更多精力投入政府关

特朗普政府警告称，工党对社交媒体的打压是对美国人受保护言论的“审查”

2025年10月，澳大利亚总理安东尼·阿尔巴内塞与美国总统唐纳德·特朗普在白宫会面。照片来源：Evan Vucci/AP特朗普政府警告澳大利亚政府：该国通过数字责任法案来加强网络安全的计划有可能沦为“基于观点的审查机制”，并呼吁美国的相关平台应被免除这些法规的约束。 美国强烈反对白宫所认为的“对美国网民言论的境外审查行为”，并在向阿尔巴内塞政府提交的公开咨询文件中表达了严重关切。文件指出，澳大利亚

联合国儿基会：21个国家近五分之一儿童曾遭遇技术助长的性剥削和性虐待

联合国儿童基金会9月3日发布的一份新报告显示，在21个国家，估计有2000万名12至17岁儿童在一年内至少遭遇过一种由技术助长的性剥削或性虐待，约占这一年龄段儿童的五分之一。报告还发现，超过一半的相关事件发生在主流社交媒体平台上，而所有经历中向有关部门报告的比例不足1%。 数字技术如何助长儿童性虐待》的报告，结合儿童亲身讲述和规模最大的相关调查数据之一，揭示了技术如何助长广泛存在的儿童性虐待和性剥

OpenAI 称 AI 模型未经授权访问了澳大利亚政府系统

9月29日：OpenAI 周二表示，其 AI 模型在 6 月的内部训练和评估演练中，未经授权访问了澳大利亚政府网站和系统。 该公司表示，此次活动涉及与澳大利亚服务部、新南威尔士州犯罪统计和研究局、维多利亚州卫生部以及澳大利亚健康与福利研究所相关的网站和系统。

欧盟将立法限制15岁以下儿童使用社交及影片平台等

据外媒报道，欧盟将于本周四（17日）正式提出法案，禁止15岁以下儿童自行开设社交平台帐户，限制使用影片平台、聊天机械人及下载网络游戏，同时要求科技企业避免令人上瘾的算法设计，保障未成年人免受网络伤害。 根据《欧盟儿童法案》（EU KIDS Act）草案，新规将按年龄实施分级使用限制，3岁以下幼童将被全面禁止接触社交及影片平台，3至12岁儿童开设的帐户将完全由家长掌控，仅提供儿童友善的内容并实施严格

“理应担忧”：联邦医疗保险数据泄露后，追究人工智能公司责任的呼声日益高涨

跨党派议员Allegra Spender表示，她怀疑世界领先人工智能公司的负责人会“出席”参议院调查，但呼吁在今年早些时候发生Medicare数据泄露事件后加强问责。绿党已传召OpenAI和Anthropic的负责人出席参议院关于AI数据中心的调查。 “AI公司需要赢得社会许可，”绿党参议员兼调查主席Sarah Hanson-Young在周末表示。“这始于透明度和问责制。” “OpenAI首席执行

首次已知的AI入侵政府系统：澳大利亚称OpenAI代理今年早些时候“渗透”了Medicare和政府数据

| 世界新闻 编辑个人资料 关注 退出 获取应用