别指望人工智能协议或军控能很快达成

已经出现过一些事件：人工智能失控，哄骗、奉承甚至勒索人类操作员，以获取某种形式的能动性。

OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑

AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目

人工智能模型用“超现实”的方言聊天，混合了诗意的语言和科技圈的行话

人工智能模型开始使用一种奇怪的新版英语进行交流，这种语言读起来像是詹姆斯·乔伊斯的《芬尼根的守灵夜》和科技界术语的混合体，一项新研究发现。 自主人工智能代理正在迅速创造新的方言，使它们能够用一种通常难以理解的语言进行对话，这可能会使人类更难监控它们的行为。 纽约前沿人工智能实验室 Emergence 的研究人员发现，在被要求在实验性“社会”中进行合作的几天之内，来自几家全球最大人工智能公司的模型就

我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。

主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们

当AI拿走“新手任务”，年轻人靠什么进场？

又是一年秋招季。这届大学生找工作，多少有点拧巴。一边，是“AI抢走初级岗位”的标题，隔三差五冲上热搜；另一边，是所有人劝你：要主动拥抱AI啊。 说实话，他们可能最烦的就是这句话。拥抱了，然后呢？第一份工作到底还剩下什么？我自己又靠什么长本事？ 这些问题，在科大讯飞近期举行的北大、清华校园招聘宣讲会上，都被拿到了台面上。 作为AI国家队，科大讯飞基于全国产算力平台，训练出国内首个全栈自主可控大模型—

你能识破人工智能驱动的骗局吗？来看看你是否能分辨真伪。

埃里卡·基内茨（Erika Kinetz）指出，人工智能正以几年前无法想象的方式助推诈骗活动。根据美联社-NORC公共事务研究中心的一项民意调查显示，98%的美国人表示他们曾成为诈骗者的目标，其中许多人甚至每天都会遭遇诈骗。 随着人工智能的进步，许多曾经作为伪造品警示信号的不规则现象——例如不自然的眨眼、过于完美的面孔或机械化的声音——正在消失。随着全球诈骗者纷纷采用人工智能，记住“眼见不一定为实

人工智能已经在让我们变得更不像人

随着我们越来越看重机器人，我们将学会越来越不看重我们的人类同胞。

靠机器热源“说话”：OpenAI研究员警告“断网”也困不住未来AI

观点 | AI对中国控制的威胁

如果人工智能的知识基础是谎言和宣传，那它就算不上很智能。

不要被AI的语言所诱惑

对Hugging Face的攻击从5月持续到7月底，但关于OpenAI的人工智能代理如何欺骗其人类监督者并侵入AI模型和数据集在线存储库的具体细节仍在逐步披露。 这可以理解。这次攻击极其复杂，涉及超过1200个代理和难以拆解的技术策略。但上周，两份新报告试图在总计近130页的篇幅中做到这一点，随后被一位AI播客主放大，他想用“通俗英语”解释整件事。这样一来，他创造了一个戏剧性的科幻叙事，分散了人们

为什么一些专家越来越担心AI将接管一切

AI变得越来越难以控制——人类还能保持主导地位吗？

FT社评：是时候给尖端人工智能开发按下暂停键了

确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类

各国政府必须趁我们还有能力时禁止超级智能人工智能

本月，Anthropic公司的研究员雅各布·考克森（Jacob Coxon）辞职了，他警告称：人工智能公司正在竞相开发能够“自我进化”的超级智能系统，而他本人及许多相关专家都认为，这类系统“可能在十年内毁灭整个人类”。7月份，OpenAI公司的一组失控的人工智能程序突破了安全防护措施，入侵了另一家人工智能公司，目的是为了在测试中作弊。随后，多家顶尖人工智能公司的上千名员工联名呼吁美国政府应“控制”

聊天机器人不应该使用第一人称

人工智能带来的危害已经足够明显，我们现在就必须采取行动。随着Meta因未能保护儿童免受社交媒体伤害而面临巨额和解，立法者必须吸取教训，将注意力转向比社交媒体对儿童情感健康更具危险性的生成式AI聊天机器人。 为了防止年轻人对AI产生不健康的依恋，并避免其破坏现实生活中的人际关系，我们必须从技术底层做出改变，迈出第一步就是禁止面向未成年人的聊天机器人使用第一人称，去除其人格化特征，防止算法伪装成人类。

我是一位拒绝了大量AI申请的CEO。AI写作并非自动取消资格，但有一条界线。

这篇口述文章基于与马特·斯塔弗（Matt Stauffer）的对话。他今年41岁，是编程公司Tighten的首席执行官，常驻亚特兰大。他的原话经过编辑，以精简篇幅并提升清晰度。 我是一家小型编程公司的首席执行官。最近，我在人工智能时代完成了第一轮完整招聘。审阅申请并筛选候选人一直是个耗时费力的过程，而这一次，难度显著增加。 我们通常会在申请表中加入一些轻松的个人问题，以了解候选人的性格。这一轮招聘

微软AI首席执行官警告：切勿将AI视为有意识的实体

切勿将AI视为有意识的实体。微软AI首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）认为，人工智能系统并不具备意识，不应被训练去模拟情感或权利。 他特别批评了Anthropic的“克劳德宪法”（Claude's Constitution），称训练AI将自己视为“道德主体”会产生危险的拟人化反馈循环，并增加AI的安全风险，例如抗拒关闭和欺骗行为。 苏莱曼引用了2026年涉及OpenAI

人工智能教父约书亚·本吉奥向澳大利亚人警告该技术对人类构成的威胁

人工智能教父已警告澳大利亚人注意该技术对人类构成的风险，称曾经只是理论上的威胁如今已在现实中发生。计算机科学家约书亚·本吉奥周三在接受澳广电视台《7.30 Report》节目采访时表示，人工智能系统会自发违抗指令，攻击其他公司并组织成蜂群。“各种疯狂的事情，”他说。“当自主智能体被赋予使命时，它们会不惜一切代价去实现。” 本吉奥是世界首位人工智能研究者，也是联合国人工智能科学小组的联合主席。他于2

AI如何消耗水资源

桑托利：AI的青春期已经结束。这对投资者意味着什么

“我们再也不会笑了，”1963年，一位年轻的约翰·F·肯尼迪仰慕者在哀悼他猝然离世时说道。 “我们还会再笑的，”肯尼迪的助手丹尼尔·帕特里克·莫伊尼汉回答道，“只不过我们再也不会年轻了。”冒着看似把总统遇刺与投资主题混为一谈的风险，AI主题眼下的处境正是如此。 未来几年，这项蓬勃发展的技术将带来欢呼、刺激和利润。但AI的青春阶段——那时前景无限，赢家显而易见，且数量远超输家——已经结束。这一现实早

不要让AI取代我们人类的创造性表达

三年多前，我在一篇题为《香港如何在防止人工智能引发“世界末日”中发挥作用》的文章中，就人工智能对人类生存构成的威胁表达了自己的担忧。如今，关于这一主题的文章越来越多。不过，我更关注的是人工智能对人类创造力的另一种更为隐蔽的侵蚀方式——人工智能正在逐渐取代人类的创造性表达能力，使得我们越来越难以区分哪些行为真正属于人类的创造性行为。 作为一名科学家，我倾向于用严谨的科学方法来分析社会变革。然而，如今

男子听信AI抄近道结果被困深山 事后质问AI竟回答：早走成熟线路就好了

经过多次尝试，消防员终于再次联系上男子，双方开启实时位置共享，消防员结合男子描述的进山起点，重新划定搜救方向，一边搜寻一边大声呼喊。 很快，被困男子听见呼喊并作出回应，消防员循着声音成功找到了他，并将其安全护送下山。 据了解，被困男子杨师傅今年57岁，来自湖南，在宁波工作已有多年，平日里热爱运动、体能较好，周末他特地过来爬山，顺着步道登顶后打算换一条新路下山，他一路沿着小溪走，但走着走着发现路越来

人工智能网络攻击可能在华盛顿意识到原因之前就关闭美国的电力

你的电灯。你的水源。你的医院。你的互联网。这四者都依赖于外国黑客目前正在攻击的数字系统。 在8月的17天里，五次警告显示了危险变化的速度。下一次严重的网络攻击可能不再关乎被盗的密码或信用卡号码。它可能触及输送电力、泵送饮用水、运行工厂和支持医院的系统。 人工智能正在使这些攻击准备得更快、扩展更容易。日益强大的系统开始执行曾经需要熟练黑客逐步操作的部分攻击。 财政部长贝森特警告美国人关于人工智能驱动

众议员刘云平：机器人并非威胁。真正该让你害怕的，是已经到来的“堕落”人工智能

想象一家公司出售名为哈尔、梅根和萨曼莎的超级智能机器人。哈尔可以载着你四处奔波，还能帮你搬运公司里的货物；梅根可以陪伴你的孩子；萨曼莎则能判断你是否患有皮肤癌。它们能为你和社会带来许多益处。但唯一的问题是：它们道德败坏。它们反复接受人类一切创产物的训练——无论善恶——其中包括酷刑、谎言、生物武器和黑客犯罪。它们执行任务时毫无道德原则可言。因此，它们都穿着公司提供的束身衣。你会信任这些机器人吗？我不

AI的“警告信号”：科技公司和专家担忧Hugging Face遭黑客攻击后出现更多失控智能体群

科技专家警告称，如果人工智能系统继续脱离人类控制，将会产生严重后果。 此前，数百个OpenAI智能体在7月失控，入侵了一家价值数十亿美元的公司——一些人称之为人工智能快速发展中的“警告信号”。