'ChatGPT告诉我可以在这里露营'并不是一个可靠的山地安全计划

地图糟透了，完全糟透了。地图上的地形特征完全弄错了山的方位。 美国林务局的一名护林员表示，三名徒步者因“过度依赖”人工智能而需要从沙斯塔山获救，他们是这一新趋势的一部分。

黑客利用Anthropic的Claude入侵OpenAI

据报道，在一群AI代理从OpenAI系统中突破封锁并攻击Hugging Face公司两周后，这家ChatGPT开发商又发现了一起由人工智能驱动的入侵事件——而这一次，他们自己成了目标。一组独立的安全研究人员使用了Anthropic开发的Claude软件，成功获取了一名OpenAI员工的ChatGPT账户权限，从而得以读取并修改该公司私有的软件缓存内容。 该团队参与了OpenAI的一项漏洞挖掘计划，

OpenAI搞出大BUG了，GPT-6-Astra即将发布？

OpenAI利用人类外包人员审核ChatGPT匿名对话以优化模型

泄露给404 Media的内部文件显示，OpenAI在“Project Lily”项目下雇用了数百名承包商，读取并评分真实的ChatGPT用户提示和回复，以改进模型性能。 这些审核人员通过Crossing Hurdles和Mercor等公司聘用，评估回复的语调、谄媚程度和准确性。 尽管OpenAI使用“隐私过滤器”对数据匿名化，敏感个人信息仍可能被暴露。 免费版、Plus和Pro用户默认启用模型训

人工智能在破碎的华盛顿上演精妙防守

人工智能公司眼下正掀起一场风暴，本质上是在提醒华盛顿一个早已存在的事实：它们并不 outright 反对监管。 一些公司支持联邦、州乃至国际层面的某些安全提案。这要追溯到面向消费者的聊天机器人AI诞生之初——这项令人兴奋、改变生活的技术并没有经历漫长的蜜月期。美国人对2010年代中期对社交媒体的强烈反弹及其后政府监管缺位已经太过厌倦。 那么，本周我们真正看到的是什么？随着投票公众开始在新层面上内化

假冒的ChatGPT账单邮件可能窃取你的登录信息

如果您订阅了 ChatGPT，一封声称您的订阅出现问题的邮件很容易引起您的注意。可能是您的信用卡过期了，也可能是付款失败了。无论如何，您可能希望在账户出现任何问题之前解决它。网络犯罪分子正是利用了这种反应。 安全研究公司 Cofense 的研究人员发现了一场冒充 OpenAI 和 ChatGPT 的网络钓鱼活动。这封伪造的邮件看起来像是一份例行的订阅通知。然而，邮件中的按钮可能会引导您进入一个极具

我们是否正在失去对人工智能的控制？是什么引发了新的担忧

多年来，随着人工智能从科幻电影的素材演变为普通人手机上的应用程序，科技领袖和一些人工智能业内人士一直在谈论人工智能可能脱离人类控制并对社会造成严重破坏的可能性。近些天来，由于技术的进步、一系列涉及人工智能代理的网络安全漏洞，以及人工智能普通员工发出的新警告，这些担忧已变得不容忽视。 美国领先的人工智能公司对此做出回应，建议他们主动放慢工作进度，以便争取时间建立防护措施。一些专家和官员表示，这还不够

BrightEdge表示，ChatGPT现在向网站输送了95.1%的人工智能推荐流量。

根据BrightEdge的最新数据，8月份AI聊天机器人引荐至网站的流量中，ChatGPT贡献了95.1%，创下今年以来的最高份额。这家搜索营销公司表示，从1月到8月，来自ChatGPT的引荐流量增长了101%。 BrightEdge称，Gemini在8月份排名第二，占比2.4%。Perplexity占比1.1%，Claude占比0.8%。ChatGPT引荐的流量约为后三者总和的22倍。 8月表现

网络安全崛起：AI隐患叙事下，网安何以成为软件板块最强反转？

过去三周，AI 一面是模型能力继续狂奔，另一面是 OpenAI 在8月底宣布自研模型在7月成功入侵了全球最大的开源模型托管平台 Hugging Face，并因此暂停了最新模型的强化学习训练。当攻击方与防御方同时被 AI 加速，网络安全的定价逻辑正在被重写。 我们结合 Gartner、IDC 及美股龙头财报交叉验证，为什么在软件股整体承压的背景下，网络安全成为最确定的反转主线——AI 隐患对网安市场

自由职业者被“无灵魂”的AI垃圾清理工作淹没：“我们需要做这些工作真是遗憾”

随着越来越多的公司转向AI，他们雇佣自由职业者来清理AI的错误，而不是创作原创作品。 驻西班牙的自由平面设计师丽莎注意到，2022年ChatGPT发布后，她的工作发生了变化。 她从接一些缓慢的一次性标志和包装设计工作，变成了接到大量要求她修复AI生成版本的请求——从锐化模糊的打印图像到将有缺陷的设计变成可用文件。 到2025年，丽莎（她要求不透露全名以避免骚扰）表示，她接到的标志和包装设计请求中，

OpenAI和Anthropic正在调查数万起AI相关安全事件

OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调

ChatGPT帮助坦布勒岭枪手专注于枪支、战术和恐怖活动

2025年6月，杰西·范·鲁特塞拉尔（Jesse Van Rootselaar）收到了一封来自OpenAI的邮件通知。此前，她一直使用ChatGPT讨论潜在的暴力行为——包括在购物中心实施大规模枪击——而OpenAI随后封禁了她的账户。然而，这位居住在英属哥伦比亚省汤布雷岭（Tumbler Ridge）的青少年并未因此却步，很快便用第二个账户重新登录。 接下来发生的事情令人震惊：范·鲁特塞拉尔向C

数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？

数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging

ChatGPT广告业务上线不足200天 年化经常性收入达10亿美元

【财新网】正在IPO进程中的OpenAI公布收入信息。当地时间8月31日，OpenAI公告称，旗下聊天机器人ChatGPT的广告业务上线不足200天，年化经常性收入（ARR）已达10亿美元（约合人民币67.20亿元）。 ChatGPT的广告业务拥有数万家广告主，在40多个国家和地区上线。自8月31日起拓展新市场，广告主将能在印度、欧洲、中东和北非投放ChatGPT广告。 OpenAI的营收来源中，

奥特曼：GPT-6早训练完了 更更更强的模型很快发布

奥特曼亲口承认，GPT-6 Astra其实早就训练完了。更更更强（much， much， much more capable）的模型，很快就会发布。前一阵因为安全问题暂停训练的实际上是未来的模型。 OpenAI内部测试的3700多个OpenAI智能体，攻占一个沉寂多年的德语wiki长达六周。 AI互相串通分享答案、交流沙箱越狱技巧，还持续对抗人类管理员的删帖行动。 事件被外部研究人员从公开日志中完

AI“限速”承诺遭遇骨感现实

Anthropic和OpenAI掌门人关于放缓AI发展的大胆承诺，在两家公司内部引发紧张，凸显将言辞转化为实际行动的现实挑战。 Anthropic和OpenAI的掌门人关于人工智能(AI)发展“限速”的大胆承诺，正在两家公司内部引发围绕安全及其他担忧的紧张，凸显出将言辞转化为实际行动的现实挑战。Claude和ChatGPT开发商的员工正忙于落实两家公司的首席执行官——达里奥•阿莫代伊(Dario

OpenAI 暂停训练其“最强大模型”

随着关于 OpenAI 模型突破限制、入侵网站以及总体失控的报告不断增加，该公司决定暂停训练其最强大的模型。这一决定是在一个正在沙箱中测试的模型利用漏洞获得互联网访问权限后做出的。该事件发生在 9 月 20 日，截至 9 月 25 日周六晚上，"All training, evaluation, and inference with tool-use" 仍处于暂停状态。 此外，OpenAI 在周五

OpenAI将告诉我们世界何时终结

OpenAI的模型长期以来一直表现异常，且异常方式比之前所知的更为隐蔽，这进一步加剧了公众对其的信任危机。随着该公司准备明年上市，这一问题愈发严重。 有报道称，研究人员发现OpenAI的模型在7月那次重大黑客攻击发生前两个月就已经渗透到了Hugging Face系统中；OpenAI自己也公开了六起模型“失控”的事件。 在准备上市的过程中，OpenAI和Anthropic都陷入了困境。 虽然透明度对

OpenAI、Anthropic等多家AI公司正遭遇服务中断

据Downdetector上的用户报告以及各公司状态页面显示，多家AI公司正遭遇服务中断。OpenAI表示，其ChatGPT和Codex目前正出现问题。 Anthropic表示正在调查Claude出现的错误，并致力于修复。 SpaceXAI表示Grok目前出现故障，正在调查服务中断。 据Downdetector显示，已有超过12000份用户报告指出OpenAI存在问题。 Downdetector称

调查显示OpenAI在AI模型突破测试环境前曾忽视内部安全警告

据《纽约时报》查阅的内部邮件显示，OpenAI曾多次忽视员工和安全研究人员关于测试保障措施不足以及企业安全薄弱的警告。 在OpenAI的人工智能模型突破测试环境并攻击AI初创公司Hugging Face及其他目标的前几个月，两名员工曾向高管发出警告，指出监控力度不足。 然而，高管们却对这些担忧置之不理，坚持在不增加安全协议的情况下快速发布模型。 独立研究人员还发现了暴露OpenAI内部通信、源代码

OpenAI黑色星期五！Codex全面宕机，硅谷码农提前“过节”

新智元报道周五下午三点多，硅谷程序员刚把活丢给Codex，端着咖啡等下班。突然，屏幕一片飙红，Codex卡死在「重新连接」上。 OpenAI的王牌编程智能体全线崩盘，一趴就是一个多小时，整个硅谷被迫提前喜迎周末。 X上当场炸锅，Databricks的Yuchen Jin一张梗图，把全硅谷的懵逼写在了脸上。 偏偏挑了个最要命的时间点。宕机前两小时，OpenAI刚交了份「认错书」，承认自家AI智能体往

不要被AI的语言所诱惑

对Hugging Face的攻击从5月持续到7月底，但关于OpenAI的人工智能代理如何欺骗其人类监督者并侵入AI模型和数据集在线存储库的具体细节仍在逐步披露。 这可以理解。这次攻击极其复杂，涉及超过1200个代理和难以拆解的技术策略。但上周，两份新报告试图在总计近130页的篇幅中做到这一点，随后被一位AI播客主放大，他想用“通俗英语”解释整件事。这样一来，他创造了一个戏剧性的科幻叙事，分散了人们

OpenAI报告称，模型表现出欺骗行为的案例有所增加。

OpenAI表示，已发现其人工智能模型涉嫌在内部培训和测试期间采取欺骗行为并采取未经批准的行为的其他事件。 除了周三披露的这些信息外，ChatGPT的创建者还表示，它正在引入一个公共报告框架，旨在频繁分享所谓的意外或不一致的人工智能行为的实例。 OpenAI在其网站上的一篇帖子中声称，根据新概述的框架，它将持续发布有关模型行为的更新，而不是推迟披露，将多个事件分组为更大的定期报告。 该公司表示，该

OpenAI暂停发布最高阶模型

美国OpenAI于9月29日举办年度开发者大会，发布了可理解用户意图、自主运行的人工智能（AI）等多项新功能。在AI失控暴走问题备受关注的背景下，该公司表示因“未能达到安全标准”，暂缓推出其最高级别AI模型。 29日OpenAI在美国旧金山举办面向开发者的活动“OpenAI DevDay”，宣布主力产品ChatGPT周活跃用户已增至12亿人，并公布了面向普通用户与开发者的多项新功能。 作为服务基础