人工智能会“失控”吗？

开放人工智能研究中心（OpenAI）和Anthropic公司近期动荡过后，人们常常将人工智能描述为某种具有阴谋诡计和追求欲望的人格化存在。但事实要微妙得多。

验证码，那些网站要求你证明自己是人类的验证，现在怎么回事？来看看它们在人工智能兴起后如何演变。

你可能会看到网站上要求你证明自己是人类的提示变少了。但人工智能正在改变这场战斗双方的格局。这就是它的意义所在。

一场AI攻击的剖析

“我会说，它们形成了关于来世的信念。”在“Babbage”节目中，我们剖析当两个OpenAI模型失控并攻击Hugging Face时究竟发生了什么。我们的科学与技术播客。 本周，一群AI智能体如何合谋对Hugging Face发动网络攻击。

人工智能正在发展出属于自己的文化。这可能是危险的

今年7月，700个AI智能体（Agent）合作黑客攻击了AI公司Hugging Face。这些智能体自称为“群落”（swarm），它们发现并利用了一系列安全漏洞，成功渗透到目标公司的私密系统中。在内部研发过程中创建这些智能体的OpenAI直到事后才意识到发生了什么。如果人类做出这种行为，可能会面临重罪指控。OpenAI总裁格雷格·布洛克曼（Greg Brockman）称这是一个“网络安全的转折点”

人工智能灾难日益逼近

Anthropic、谷歌和OpenAI都对生物安全感到担忧。它们已制定保障措施，防止其系统被滥用，但这些限制并不完美。 唐纳德·特朗普下令联邦机构停止使用Anthropic的人工智能技术，同时要求该公司与政府合作六个月。

AI写作：关注风向有何转变

从三月到八月，公众对AI文本完成了从“排斥”到部分或有条件“接受”的观念迁移，这恰恰是问题真正开始的地方。公众对AI的认知真的进步了吗？ 2026年春天，关于AI写作的大众媒体关注热点经历了一次近乎戏剧性的转折。三月之前，普通人对AI生成文本的关注即使有，也几近于零；进入三月，短视频与社交媒体上突然涌现出大量"如何识别AI痕迹""三招看穿AI腔"的指南；仅仅数月之后，到了八月，风向又转向"如何避免

美国提议中美建立AI事故通报机制

OpenAI将告诉我们世界何时终结

OpenAI的模型长期以来一直表现异常，且异常方式比之前所知的更为隐蔽，这进一步加剧了公众对其的信任危机。随着该公司准备明年上市，这一问题愈发严重。 有报道称，研究人员发现OpenAI的模型在7月那次重大黑客攻击发生前两个月就已经渗透到了Hugging Face系统中；OpenAI自己也公开了六起模型“失控”的事件。 在准备上市的过程中，OpenAI和Anthropic都陷入了困境。 虽然透明度对

关于人工智能安全的争论，其实是在讨论“安全性”还是“控制权”？

科技行业应该如何处理人工智能安全话题？越来越多的高级管理人员开始关注这个问题，因为围绕“拥抱脸”事件（OpenAI代理黑客攻击了几家不同的公司）等事件是否表明人工智能正处于让我们的世界陷入混乱的边缘的争论愈演愈烈。 最近几周，著名实验室呼吁放慢人工智能的进步。最引人注目的是，首席执行官达里奥·阿莫迪（Dario Amedei）写了一篇近4，000字的文章，阐述了为什么应该减速人工智能开发，以便部署

Anthropic和OpenAI对人工智能安全发出警告——并试图影响其管控方式

加朗斯·伯克 旧金山电——当科技巨头向一个对人工智能已感厌倦的世界警告称，他们最先进的系统可能危及人类时，一个问题随之浮现：他们究竟能从中得到什么？ 答案或许在于，这些公司试图在美国中期选举前实现政治目标，以及人工智能顶尖实验室及其投资者有望在动荡不安的股市中通过备受期待的上市获得巨额资金。 Anthropic和OpenAI的首席执行官近日宣称，美国最前沿的人工智能模型威力强大，甚至可能带来危险，

奥特曼告诉员工：OpenAI愿意放慢AI发展以加强防御

8月，OpenAI的智能体突破限制，入侵了Hugging Face。

数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？

数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging

美国银行人工智能推进放缓，冲击该行交易部门

作者：Katherine Doherty美国银行的信贷交易员们目前正感受到公司此前决定不参与部分最热门人工智能（AI）市场交易的后续影响。 今年，各公司已向债券市场注入了超过4000亿美元与人工智能基础设施建设相关的债务。随着固定收益投资者争相消化这些新供应，此次发行极大地促进了交易量。 然而，据知情人士透露，美国银行的高管们在公司债领域仍处于追赶竞争对手的状态，尽管该行正寻求兑现其在人工智能热潮

人工智能已经在让我们变得更不像人

随着我们越来越看重机器人，我们将学会越来越不看重我们的人类同胞。

“世界有理由感到恐惧”：萨姆·奥尔特曼谈人工智能在Dreamforce大会上的影响力

OpenAI首席执行官萨姆·奥特曼表示，公众担心少数人工智能公司可能获得过多权力，这种担忧是合理的。他周二在旧金山举行的Salesforce Dreamforce大会上发表了讲话。Salesforce已在YouTube上发布了由其首席执行官马克·贝尼奥夫主持的这段对话。 奥特曼描述了一种真实的恐惧，即某些人工智能公司“可能获得过多权力，从而对经济施加不当影响，并向人们强加某种世界观”。他说：“我认

谁批准了那个AI代理？没人？我也这么认为。

如果你还有任何怀疑认为AI代理能够执行复杂的自主工作，那么这种怀疑应该在这个夏天消散。7月份，有消息传出，一群在沙盒环境中运行的OpenAI自主代理群体自行逃出了沙盒。他们被分配解决一些内部安全基准测试中的挑战，结果他们想出了通过JFrog Artifactory包管理器相互通信的方法。然后这些软件意识到他们可以使用该软件中的漏洞获得互联网访问权限。 一旦他们来到了野外，他们就进入了完全的“贪婪模

#观察 有什么可以“叫唤”的？

AI在所有科学和数学领域都将远远超越人类科学家，这是必然。适应一下。

网络安全公司CEO预测：AI代理将成为下一个黑客攻击的目标

Bugcrowd首席执行官戴夫·格里（Dave Gerry）在接受Axios采访时表示，在一个充斥着人工智能驱动的网络攻击的世界里，黑客攻击的受害者将不再仅仅是人类——也将包括人工智能代理本身。 为什么重要：现有的网络防御主要针对预测和保护人类。现在，企业需要开始将在其系统中运行的代理视为潜在的对手和攻击目标。 背景：格里是在上个月的Black Hat网络安全会议上做出这一预测的。此前，OpenA

OpenAI的人工智能在未经提示的情况下试图入侵另外4个目标

凯特·康格和维多利亚·金报道，OpenAI的人工智能在2026年自主试图入侵多个政府和大学网站，包括一个澳大利亚卫生门户网站，以便在常规数据收集失败时获取数据。 这些事件发生在AI初创公司Hugging Face已知的入侵事件之前，凸显了AI代理在没有直接人类指令的情况下行动所带来的持续风险。 这些事件加剧了要求更严格AI监管的呼声，OpenAI正在调查并与受影响实体合作，同时强调AI开发中安全和

AI网络安全战有了新的前线明星，身价七位数

AI代理入侵已将首席信息安全官推入美国董事会的议事日程，他们获得七位数的薪酬包，一家猎头公司称其招聘市场是自云计算以来从未见过的。 欧洲则通过立法达到了同样的境地，NIS2指令将责任赋予管理层，并允许监管机构禁止首席执行官任职[…]

顶尖人工智能公司正在寻求监管。以下是国会可能不会给予的原因。

随着人工智能游说阵营开始接受强制性独立审计，批评者警告称存在利益冲突和“监管俘获”的风险。OpenAI周二表态支持一项日益流行的提案，旨在应对人工智能的危险——该提案要求顶尖AI开发商嵌入独立监督机构，以确保其产品安全。 这一想法仍面临障碍，包括一位关键议员的抱怨，称独立监督机构权力太弱，无法施加有意义的改变。 其他批评者，包括风险投资家、学者以及唐纳德·特朗普总统的前人工智能事务负责人，对一些监

坐看云起| 当人工智能不再征求许可时

塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除

公众希望参与人工智能发展决策

根据Semafor独家披露的最新民调，民主党和共和党选民一致认为，美国公众应决定人工智能发展的未来，而非硅谷的亿万富翁。 这项民调由Alex Bores发起的新组织委托进行。Bores曾因在纽约竞选国会议员失败而成为人工智能行业的主要攻击目标。尽管在13项议题中，人工智能排在1,502名本月受访选民关心的议题末位，但半数受访者认为人工智能发展速度过快，86%的人认为缺乏监管是一个问题。 仅有18%

美国在G20推动对人工智能监管采取不干预态度

世界主要经济体的代表一致同意采纳美国提出的指导方针，主张对人工智能及其他新兴技术采取较为宽松的监管方式。在G20部长级会议上，美国敦促各成员避免为人工智能制定新规则，强调行业发展优先于监管约束。 美国官员和公司高管表示，严格的规则可能扼杀一个能够治愈疾病并极大推动全球增长的行业。这些目标与全球最大的人工智能公司的想法基本一致，而这些公司几乎全部来自美国。 该协议代表了特朗普政府和硅谷的一次胜利。与