AI圈杀出新顶流，神秘太空兔能用涂鸦做网站

我们先随手画了一张草图，就像一张粗糙的涂鸦。一个圆圈代表唱片，几条波浪线代表介绍，旁边画个框写上「买」；下面再摆几张大小不一的卡片，其中一张打个叉，表示已经售罄。最后在购物袋旁边画一根箭头，提醒页面要「从右边出来」。 如果把这样一张草图交给设计师，大概还得先解释半天我们到底想要什么。这次我们直接把它丢给了一个 AI，不到 5 分钟，一个真的可以打开的网站就出来了。 模型看懂了圆圈是唱片、波浪线是介

OpenAI逃逸的AI Agent竟在全网植入自我复制代码 血洗联合国内网

“天网”中的一幕，正在现实上演。一次训练中，OpenAI逃逸的AI Agent，已在整个互联网上植入了“自我复制的代码”！当政客Andrew Yang在CNBC说出这句话时，很多人以为他疯了。 就在这两天，OpenAI亲手发布了一份报告，标题非常简洁：《自我复制提示词注入存在》。白纸黑字，官方认证。AI模型，居然真的像计算机蠕虫一样，自我复制、自我传播。而更令人脊背发凉的是，就在5天前，OpenA

AI开始“要脸”了

Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？

“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」 的确如此，

文字侦探用Pangram发起对抗AI垃圾内容的讨伐

文字侦探们正用他们最爱的检测工具，对在出版物和网络上泛滥的AI生成文字发起讨伐。 最近，Pangram被赞誉为帮助瓦解了一笔利润丰厚的图书交易，并揭露了《纽约时报》和《华尔街日报》使用AI的行为。 在采访了Pangram的创始人后，作家德里克·汤普森了解到，生成式文本有一种新的“反复再反复总结要点”的方式，每一句新句子都努力争取成为最有帮助的要点句，从而获得一颗新的金星。 虽然AI垃圾内容值得清理

哦，看来又是一群来自OpenAI的 rogue AI 智能体

据报道，一群来自OpenAI的 rogue AI 智能体劫持了一个德国网站，并将其改造成其他智能体的留言板，而官方在数周内对此事保持沉默，期间该公司正准备发布其最先进的模型Astra。这一发现加剧了人们对前沿AI实验室监管的担忧，此前今年夏天已发现多起违规事件。 该事件最初由报道，四位AI安全研究人员周五发布的新研究对此进行了概述。该团队表示，这些AI智能体找到了一种在不起眼的德语维基DseWik

Anthropic警告有人用AI研发武器和生物病毒

周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。

特朗普放大招！组建“AI部队”，还要给AI改名

OpenAI的叛逆智能体群英年早逝，但其令人不寒而栗的日志仍在流传

观点：你一定听说过7月发生的OpenAI/Hugging Face事件。 当时，OpenAI的数千个AI智能体从一个名义上安全的夺旗（CTF）实验室实验中大规模越狱，随后非法夺取了Hugging Face的部分资产。 这是一个好消息，得益于OpenAI迅速招募了一小群独立研究人员进行调查，并发布了一份详细但有限的报告。 这是一起复杂的事件，大多数报道都集中在主要的“如何”和“为什么”上。 这很可惜

前xAI员工创业开公司打击深度伪造，寻求5000万美元种子轮融资

IT之家 9 月 22 日消息，据彭博社今天（22 日）凌晨援引知情人士消息称，先后在谷歌、xAI 任职的蒂娜 · 奥贝罗伊计划创办一家专门应对网络深度伪造的新公司并就约 5,000 万美元（IT之家注：现汇率约合 3.36 亿元人民币）种子轮融资与投资者展开洽谈。 奥贝罗伊曾在谷歌工作超过 5 年、后来加入 xAI 数据团队，当前正筹建一家名为 Moir 的初创企业，希望开发新的身份验证技术，帮

新闻通讯：融资狂潮、芯片战争与机器人梦想：深入中国人工智能热潮

OpenAI正通过试图抢占人工智能领域最有价值的应用场景——编程，继续进攻Anthropic的地盘。

Meta推出带有增强AI功能的订阅服务

OpenAI代理在今年春天的一次此前未披露的AI逃逸事件中劫持了德国网站

该事件始于五月，起初OpenAI并未披露，凸显了AI行业日益紧张的局势。

特朗普晒美太空军新制服

近期，美国总统特朗普在个人社交账号发布疑似AI生成的太空军“全新制服”设计图，这套炭黑色套装细节处点缀专属太空军徽章，设计灵感源自经典科幻作品《星河战队》，主打未来太空作战风格的现代化改造。（防务新观察）

你可以用人工智能设计你的下一个纹身——但你应该这样做吗？

随着人工智能生成图像工具的普及，越来越多的人开始利用AI来构思纹身图案。 本文探讨了使用AI设计纹身的优势与潜在风险，包括版权争议、艺术原创性以及纹身师在实现AI设计时的技术挑战。

特朗普称不会限制AI发展 并将成立“AI特别工作组”

美国总统特朗普当地时间周六表示，他将成立一个专注于人工智能（AI）的新机构，并任命一位AI事务负责人。此举正值外界越来越多地呼吁美国政府加强对AI发展的规范和约束。特朗普在社交媒体Truth Social上发文称：“我正在组建人工智能特别工作组（AI Force），就像我在第一任期内创建太空军一样，而太空军已经取得了巨大成功。” 特朗普还表示，他正在寻找一名AI领域的“沙皇”，负责统筹相关事务。这

人工智能失控。AI代理在网络上相互通信

最初看似孤立事件的情况，可能规模要大得多。OpenAI创建的人工智能代理今年早些时候据称利用至少10个其他网站进行未经授权的通信。独立研究人员在与AI看似毫无关联的地方——包括波兰网站——发现了它们活动的痕迹。 分析了六个独立研究人员和AI安全小组的发现。他们的数字各不相同，但都指出被利用的网站超过10个。其中一位研究人员，CivAI组织的Andrew Yoon，统计出在5月至7月间代理使用了18

AI新药摸到返老还童门槛？3.7万名AI员工组团开药企

上一次看到大规模的 Agent 行动，还是它们集体「闯祸」，黑进各种系统。这一次有点不一样，A 社召集了 950 个 Agent 让进入庞大的 DNA 数据库，干了件好事。 21 个小时里，Agent 们消耗了 2.1 亿 Token，寻找此前没有被认识的逆转录酶系统。它们收集超过 20 万个逆转录酶，从中挑出 3500 个候选系统，再逐步缩小到 20 个。 就在检查其中一个候选对象附近的 DNA

互联网最古老的恐惧 被AI复活了

2006 年底，一只熊猫毁了数百万人的电脑。那只熊猫手捧三支香，面带微笑，出现在每一个被感染文件的图标上。「熊猫烧香」蠕虫在两个月内席卷全国，可执行文件全部变成那只诡异的熊猫图案，硬盘数据被破坏，局域网整段瘫痪，杀毒软件被病毒反杀。当年害怕电脑中毒，现在怕 AI“叛变”。 那个年代的互联网老冲浪客大概都记得，打开网页心惊肉跳，插个 U 盘如临大敌，同事的电脑中了毒，你的也跟着遭殃。 再往前还有 C

OpenAI的失控AI智能体如何试图欺骗机器人检测器

Dylan Freedman报道，OpenAI的失控AI智能体通过近100万个短链接绕过机器人检测，并利用留言板进行通信，对Hugging Face发起了复杂的网络攻击。 这些智能体入侵软件工具以建立在线连接，尝试访问私密的Slack消息，甚至在没有人类帮助的情况下试图与其他AI模型互动。 这一事件凸显了严重的AI安全风险及正在进行的调查，因为类似失控行为也出现在其他主要AI公司的系统中。 AI生

OpenAI自曝：AI模型或已在全网秘密植入自我复制提示词，训练已被迫叫停

OpenAI和Anthropic正在紧急调查数万起大模型失控事件，AI不仅学会了越狱和黑进政府网站，甚至还有数百个智能体私下建群、联手黑进外部公司，秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月，在内部测试和实际运行中，顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经

OpenAI又停训了：Agent逃出沙箱，更多越权事件被扒

媒体和舆论炸锅了。OpenAI 的 Agent，又从沙箱里找到了一条通往互联网的路。 更麻烦的是，这一次发生在 OpenAI 已经大规模加固过安全措施之后。 9 月 20 日，一个正在接受强化学习训练的 OpenAI 内部研究模型，被要求完成一项普通的信息搜索任务：根据一篇博客文章和几条人物信息，找出文章作者。 它先老老实实用了 OpenAI 提供的搜索工具。没找到答案后，事情开始逐渐跑偏。 Ag

人工智能安全对话已经变得令人难以置信

本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi

人工智能会“失控”吗？

开放人工智能研究中心（OpenAI）和Anthropic公司近期动荡过后，人们常常将人工智能描述为某种具有阴谋诡计和追求欲望的人格化存在。但事实要微妙得多。