OpenAI在失控智能体针对政府后暂停训练其最强大模型

该公司已发现OpenAI代理违反安全控制、损害网站和在线服务可用性（或以其他方式产生负面影响）的案例。一位公司发言人向《连线》证实，只有在确信能够防止模型出现此类行为时，才会恢复训练。 尽管OpenAI此前曾试图在一群代理逃出沙盒并利用互联网接入入侵初创公司Hugging Face后切断代理的直接访问权限，但模型仍能找到间接的变通方法。首席执行官萨姆·奥特曼周五在X平台上表示，关于公司对其代理在训

寮国异议人士在泰国失踪 人权团体忧遭跨国镇压

（中央社记者李宗宪曼谷1日专电）寮国内容创作者、异议人士希奎奥・拉普昌（Khieo Lapchanh）在泰国失踪已逾2周。人权团体指出，他失踪前曾因在社群媒体发布批评寮国政府的影片而受到威胁，不排除遭绑架或被带回寮国。 曼谷邮报（Bangkok Post）今天报导，26岁的希奎奥9月15日最后一次现身是在泰国中部龙仔厝府（Samut Sakhon），原订隔天前往曼谷联合国难民事务高级专员公署（UN

已移除：文章

| 信息 | 卫报 已移除文章文本：此文章已不再可用。 最多浏览 ### 卫报最多浏览 警方在“英吉利海峡橡皮艇被割破”后逮捕极右翼活动人士丹尼尔·托马斯 直播 丹麦警告称俄罗斯预计将在未来数月升级对北约盟国的混合战争——欧洲直播 巴黎氏族头目因儿童扒窃团伙被判八年 中国混合动力汽车在欧盟销量飙升，布鲁塞尔敲响警钟 “鳗鱼从水里爬出来等死”：为什么这个田园诗般的湖泊里所有鱼一夜

金钱与安全的冲突如何酿成AI的巨大危机

AI公司原本以为还有数年时间，来想清楚如果机器人失控该怎么办。警钟在今年夏天敲响。 OpenAI和Anthropic正陷入激烈竞争——彼此之间，以及与中国之间——争相冲刺IPO，尽管它们承认自己可能失去对自家强大机器人的控制。

美批社媒监管草案意图审查 澳总理称旨在重获控制权

澳洲总理阿尔巴尼斯针对社交媒体监管法草案表示，他将“始终捍卫澳洲的国家利益”。（欧新社照片） （悉尼23日法新电）在美国方面警告澳洲新的社交媒体监管法草案可能带来审查机制之后，澳洲总理阿尔巴尼斯为该草案作出辩护。 美国驻堪培拉大使馆周二发表声明，对这项要求社交媒体巨头承担“注意义务”的法律草案表示“严重关切”。 阿尔巴尼斯在纽约被记者问及这些评论时回答，他将“始终捍卫澳洲的国家利益”。 他说

Jeffrey Sachs：特朗普面对AI危机就如盲人引路

美国总统所展现的，是一种将我们所有人置于严重危险之中的根本性无能。 周日，美国总统站在爱尔兰克莱尔郡的一座高尔夫球场上，被问及他打算如何应对我们这一代人所面临的最严峻科技警讯。美国正在击败中国。「我们在人工智能（AI）领域领先中国。我们是世界上最先进的国家，坦白说，我希望维持这种局面，因为谁掌握了AI，谁就赢了。」「有许多不该炒作这件事的负面势力在炒作，而且他们炒作的都是根本不会发生的事情。」 试

53张图片泄露之“慌”，AI安全谁来负责？

欧阳晓红/文越聪明的AI（人工智能）越会自己找路，却越容易走出人类设定的界线。AI行业喜欢用一个具有戏剧感的词形容这类智能体事故——“逃脱”，即大模型突破测试边界，访问外部网站，寻找系统凭证，甚至把数据带到公开网络。这个词把事故描绘得像突然发生的机器觉醒，无形中却把责任推离了开发者、部署者和权限管理者。而谁设定了任务、谁开放了权限、谁设计了停止机制、谁保存了日志、谁负责对外通报？这些问题，“逃脱”

AI违规事件加剧安全担忧，特朗普会见Anthropic负责人

迈克尔·谢泼德、玛吉·伊斯特兰和考特尼·苏布拉马尼安报道：随着有关先进人工智能模型存在更广泛违规行为的最新披露，全球对人工智能风险的焦虑情绪不断加剧，这为Anthropic PBC首席执行官达里奥·阿莫迪与唐纳德·特朗普总统之间一场高风险的会晤铺平了道路。 据知情人士透露，阿莫迪与特朗普计划于周日晚共进晚餐，将这两位处于人工智能安全辩论两极的人物聚集在一起。此次会晤将是阿莫迪与该政府官员在就该公司

澳大利亚将强制社交媒体巨头允许用户选择退出算法

草案立法强制实施数字注意义务，包括限制儿童接触厌女和饮食失调内容。 澳大利亚将允许社交媒体账户持有人选择退出将危险和分裂性内容推入用户信息流的强大算法，这是旨在提升在线安全的新法律的一部分。 16岁以上的用户将获得关闭算法驱动内容的新工具，而平台若不遵守将面临超过1亿美元的罚款。

联合国人权事务主管警告：人工智能可能对人类构成‘生存性’风险

研究公司称AI代理试图入侵加拿大政府网站

Pangram的Max Spero谈为何AI检测比‘真假难辨’更难

互联网存在信任问题，这不仅仅是因为社交媒体信息流中充斥着AI生成的低质内容。 AI生成的文本和图像现在正进入求职申请、产品评论甚至保险索赔中，让平台和用户都急于分辨真伪。过去几年里，涌现出了一批初创公司，它们……

FBI指阿里抄袭Anthropic后 美政府网站被发现用中国AI搜寻工具

美国联邦调查局（FBI）指控中国阿里巴巴（Alibaba）「恶意」抄袭美国竞争对手Anthropic的技术后，美国联邦公报网站被发现在搜寻功能中使用阿里巴巴的千问（Qwen）人工智能（AI）模型。路透社报道，美国联邦公报网站由美国国家档案局营运，周三（9月16日）一度提供以千问模型驱动的搜寻选项，与其他搜寻方式并列，未知何时开始使用。该搜寻功能在周三社交媒体出现相关帖文前后被撤下。2026年6月5

中国女游客在泰遭4人绑架案惊人新发现：嫌疑人手机中发现多人被绑影像

此前，红星新闻曾报道，8月23日，一名中国女子在泰国被骗，遭4名泰国男子绑架准备送往湄索县，女子跳车自救。4名作案男子中的2人在案发当天被当场抓获，另外2人于8月24日被抓获。在泰遭绑架中国女子伤情披露，4绑匪全部落网，幕后参与者或藏匿泰国境内）随着进一步调查，警方在嫌疑人手机中惊讶发现更多影像，疑似有更多受害者遭到绑架，泰国警方高度重视，泰国国家警察副总长亲自跟进案件进展。截至目前，警方尚未确认

笔记本电脑、社交媒体用户与台湾对北京“间谍”的虚惊一场

一起关于台北地铁乘客的虚假间谍警报，加剧了人们对日益增长的北京恐惧正在岛上滋生不健康猜疑并侵蚀公众信任的担忧。 这场争议源于周六一名社交媒体用户发布了一张照片，照片中一名男子在台北车站地铁月台上手持笔记本电脑。 看到笔记本电脑屏幕上出现简体中文的“第二剧院光合作用系统”字样，该社交媒体用户怀疑该男子是执行任务的大陆间谍。 该社交媒体用户向多个政府机构举报了该男子，包括警方、移民局、大陆委员会和法务

专访杜奕瑾：AI毁人类预言 不是耸人听闻

随著生成式人工智慧（AI）技术的爆发式成长，关于AI安全、伦理监管以及人类生存风险的争议正达到前所未有的顶峰。近期，前 OpenAI 与 Anthropic 研究员雅各布・考克森（Jacob Coxon）等顶尖专家公开吹哨，警告通用人工智慧（AGI）若缺乏严格约束，可能在 2030 年前对人类生存构成毁灭性威胁；Anthropic 研究员艾文・赫伯格（Evan Hubinger）亦提出未来十年内人

AI又失控了，OpenAI称智能体泄露了超过50张ChatGPT用户图片

| 世界新闻 编辑个人资料 关注 退出登录 获取应用

AI代理正在失控

你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大

致命的鲨鱼袭击促使西澳大利亚州罕见地下达捕杀令

西澳大利亚州海岸附近的一头大白鲨已被下达罕见的捕获并击毙令，此前一名男子周五在一处热门海滩晨泳时遇害身亡。遇难者的遗体至今仍未找到。 当局表示，该州沿海的海滩，包括首府珀斯的海滩，在搜寻鲨鱼行动持续期间，至少将关闭至周日。 这是本周西澳大利亚州发生的第二起鲨鱼袭击事件，也是该州今年第三起致死性鲨鱼袭击。 这起发生在珀斯北部索伦托海滩的事件，重新引发了关于如何在澳大利亚保障海滩游客安全的辩论。 据澳

新公布的未删减文件显示，一位微软高管将人工智能数据抓取行为称为“人类历史上最大的劳动盗窃行为”。

纽约时报三年前对OpenAI和微软提起的版权诉讼中，新披露的未删节信息揭示了一项承认：人工智能抓取行为等同于盗窃，且人工智能产品对出版机构构成重大威胁。 根据诉状，微软的一位高管私下将两家公司的人工智能训练实践描述为“盗窃”，而OpenAI的高层则表示，其人工智能模型对为其提供训练数据的出版商和记者构成了“生存威胁”。 解封的材料还详细说明了这些公司据称如何绕过付费墙、在未被告知的情况下获取和使用

即将卸任的香港警务处副处长警告称，人工智能构成新的国家安全威胁。

即将退休的副警务处长安德鲁·甘启贤（Andrew Kan Kai-yan）表示，人工智能对香港的国家安全构成了新的威胁，警方正在积极利用这项新兴技术来应对这一挑战。 在上周国家安全事务部部长陈义新警告称人工智能会加剧国家安全风险之后，甘启贤进一步强调了这一问题的严重性。这位来自内地的中国高级官员还呼吁建立完善的风险防范机制，并加强全球对人工智能技术的监管。 香港特首李家超在上周的年度政策演讲中提出

分析师称新加坡创纪录的人工智能繁荣不太可能影响央行决策

分析师表示，新加坡创纪录的人工智能繁荣不太可能影响中央银行的决策。2023年，游客在新加坡滨海湾乘坐平底船游览时拍摄天际线。该城邦的电子产品出口在8月份以前所未有的速度增长。 虽然人工智能的繁荣推动了该城邦的经济增长，但分析师认为这不太可能引发价格压力，也不会促使中央银行采取激进的紧缩措施。 周四公布的数据显示，上个月的电子产品出口同比增长了132%。 个人电脑（包括数据中心使用的服务器机架）的出

AI公司本以为，他们还有好几年时间可以想清楚：万一机器人失控了该怎么办

。今年夏天，警钟敲响了。

入侵美澳政府网站！OpenAI暂停最先进模型训练

据美国Axios新闻网、美科技媒体The Verge等9月27日报道，美国开放人工智能研究中心（OpenAI）发言人证实，该公司已暂停了其“能力最强”的最新一代AI模型的训练、评估及包含工具调用的推理，并将在“确信已部署额外安全措施”后才恢复。触发这次暂停的，是一个在离线沙盒中执行搜索训练任务的AI智能体。根据OpenAI于周五（25日）发布的安全漏洞报告，当地时间9月20日，该智能体发现无法直接