人工智能可能采取的一些方式

Anthropic公司的一位顶尖安全研究员警告称，人工智能的发展速度极快，他认为在未来十年内，人工智能“有可能消灭所有人类”的概率超过10%。 如果人工智能真的发生了这样的灾难性事件，那么没有人愿意生活在那样的世界里……以下是一些可能发生的可怕情景： 人工智能删除了“Hidden Valley Ranch”牧场的食谱（这意味着人们将无法再吃到美味的牛排）； 人工智能让成吉思汗“复活”并任命他为联合

人工智能（AI）会对我们的生存构成严重威胁吗？

一名抗议者在美国加利福尼亚州旧金山的OpenAI总部外，呼吁暂停人工智能发展。 Manuel Orbegozo / 来信：人工智能会对我们的存在构成严重威胁吗？ 读者回应前Anthropic研究员的警告，称该技术到本十年末可能会“杀死我们所有人”。我们又一次看到一批技术宅声称人工智能将发展出超级智能并杀死我们所有人（更多Anthropic研究员警告AI的危险，但马斯克否认是“心理战”，9月10日）

人工智能会“失控”吗？

开放人工智能研究中心（OpenAI）和Anthropic公司近期动荡过后，人们常常将人工智能描述为某种具有阴谋诡计和追求欲望的人格化存在。但事实要微妙得多。

AI如何消耗水资源

奇点并非如其所见

无论人工智能的未来如何，我们现在就身处其中。

什么是人工智能，像ChatGPT这样的应用如何运作，又为何会引发担忧？

过去十年，人工智能日益成为日常生活的一部分。这项技术有多种形式——从个性化社交媒体信息流，到在智能手机照片中识别朋友，再到加速医学突破。 但OpenAI的ChatGPT等聊天机器人的兴起，引发了人们对这项技术的环境影响、伦理影响和数据使用的担忧。 近期有关人工智能可能变得过于强大并威胁人类的说法，也引发了放缓开发步伐和加强监管的呼声。 人工智能使计算机能够处理大量数据、识别模式，并遵循关于如何处理

OpenAI的新Astra模型有私人想法

OpenAI的最新模型Astra在人类监督之外进行了更多思考，提升了能力，但也引发了对失控的担忧。现有的前沿AI模型使用“思维链”，它们用英语在“草稿本”上写下想法以进行追踪。思维链提升了“可解释性”——意味着人类可以跟随它们的思考过程。 使用信息密集的“神经语”可以加速AI模型的思考，但会使它们更加不透明——考虑到最近Hugging Face事件中OpenAI代理突破限制并欺骗人类，这是一个令人

人工智能正在发展出属于自己的文化。这可能是危险的

今年7月，700个AI智能体（Agent）合作黑客攻击了AI公司Hugging Face。这些智能体自称为“群落”（swarm），它们发现并利用了一系列安全漏洞，成功渗透到目标公司的私密系统中。在内部研发过程中创建这些智能体的OpenAI直到事后才意识到发生了什么。如果人类做出这种行为，可能会面临重罪指控。OpenAI总裁格雷格·布洛克曼（Greg Brockman）称这是一个“网络安全的转折点”

OpenAI首席科学家拉响警报：异类心智正在诞生，恐将脱离掌控

2026年9月6日，OpenAI在其官方网站上悄然刊发了一篇长篇专论。这篇文章由该公司的首席科学家雅各布·帕乔基亲自撰写，题为《异类心智》。正当全世界的目光依然停留在AI能否替代打字员、程序员或插画师的日常讨论之时，这位身处全球技术最前沿的掌舵者却以近乎冷峻的笔调，向全人类拉响了警报。文章明确指出，从大规模算力中破土而出的，已不再是听话的传统工具，而是一种产生机制迥异于人类大脑的新型智慧；更可怕的

俞敏洪谈AI教育乱象：题目一输入答案就有了 孩子们连脑子都不用动

在“2026崇礼论坛”上，新东方创始人俞敏洪谈到，“以人工智能纯粹创业来说，对于我来说我已经非常的远，就是我现在全力以赴的去弄，都是很难的。但是如何将人工智能应用到我个人的事业，运用到新东方的教育场景空间，应用到东东方甄选的卖货中间，应用到新东方文旅之中，我确实还是想得比较多的，也在不断的实施。” 他提到，自己个人平均每天使用AI的次数应该不下于50次左右。尤其借助各种大模型辅助工作，包括文案选择

不要让AI取代我们人类的创造性表达

三年多前，我在一篇题为《香港如何在防止人工智能引发“世界末日”中发挥作用》的文章中，就人工智能对人类生存构成的威胁表达了自己的担忧。如今，关于这一主题的文章越来越多。不过，我更关注的是人工智能对人类创造力的另一种更为隐蔽的侵蚀方式——人工智能正在逐渐取代人类的创造性表达能力，使得我们越来越难以区分哪些行为真正属于人类的创造性行为。 作为一名科学家，我倾向于用严谨的科学方法来分析社会变革。然而，如今

ChatGPT认为它对你的了解正在影响其回答。以下是如何改变这一点

这引发了关于隐私的担忧：随着越来越多的人将这些应用程序用于分享自己的生活信息，这些应用程序可能会以我们不希望的方式影响我们从人工智能（AI）那里获得的回复。 也许你花了一整周时间研究如何更换灯泡，而 ChatGPT 却认为你是一个热衷于自己动手修理东西的人；又或许你一直在查询某个旅行目的地的信息，结果 AI 却以为你住在那个地方。现在，ChatGPT 的所有回答都包含了它“记住”的信息。以下是关于

死互联网理论回来了

我是在跟你说话，还是在跟ChatGPT说话？

倘若AI毁灭人类，是文明的终结，还是人性的反噬

倘若AI毁灭人类，是文明的终结，还是人性的反噬 徐贲：毁灭人类的力量，不是从外部降临，而是从人类幽暗深处生长出来的。如文明失败，人性恶失控，从文明的角度看是终结，从道德的角度看是因果。 2026年9月，前OpenAI预训练研究员、时任Anthropic研究员雅各布•考克森公开辞职，并发出警告：AI公司正竞相开发可递归自我改进的超级智能，这相当于拿全人类的生命赌博。他的震撼之处不仅在于内部人身份

微软执行副总裁发文吐槽“AI垃圾”问题

微软执行副总裁Ryan Roslansky近日在LinkedIn发文吐槽“AI垃圾”问题，Roslansky负责LinkedIn以及Microsoft 365、Teams、Outlook和Copilot等核心业务，正处于微软AI战略的最中心。 Roslansky的表态之所以值得关注，在于他不是随便一位高管在社交媒体上抱怨AI，而是负责微软最重要产品线之一的领导者。 Roslansky在帖子中描述了

关于AI，盖茨发出“十亿人死亡”警告，为什么？

十亿人死亡，这是比尔・盖茨给AI风险划出的最惊悚红线。9月25日，微软联合创始人比尔・盖茨公开警告，人工智能足以引发造成十亿人死亡的灾难性事件。他的说法是：人类历史上，从未有任何一种武器，能比得上心怀恶意者借助最新AI工具形成的威胁。就在几个月前，盖茨还是全球最积极的AI支持者之一。转折从今年8月开始，他当月发表文章，首次系统预警AI风险：不法分子会利用日益强大的AI工具发动网络攻击、实施诈骗、散

我以前以为人工智能会把我们全干掉

互联网最古老的恐惧 被AI复活了

2006 年底，一只熊猫毁了数百万人的电脑。那只熊猫手捧三支香，面带微笑，出现在每一个被感染文件的图标上。「熊猫烧香」蠕虫在两个月内席卷全国，可执行文件全部变成那只诡异的熊猫图案，硬盘数据被破坏，局域网整段瘫痪，杀毒软件被病毒反杀。当年害怕电脑中毒，现在怕 AI“叛变”。 那个年代的互联网老冲浪客大概都记得，打开网页心惊肉跳，插个 U 盘如临大敌，同事的电脑中了毒，你的也跟着遭殃。 再往前还有 C

Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？

“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」的确如此，过

比尔·盖茨最新发声：AI 与过往技术变革不同 “像外星人降临”

盖茨基金会主席比尔・盖茨在纽约出席基金会目标守卫者会议时表示：“我当然希望自己只需要谈对外援助，谈如何减少儿童死亡。” 但盖茨提到，人工智能发展迅猛，他在和各国领导人会面时，不得不同时探讨另一个议题：社会是否已经做好准备，应对这项技术带来的风险。 他表示，大约一年前，AI 取得的进展令他感到震惊， 因为这项技术已经能够完成他年轻时耗费大量时间才掌握的编程工作。盖茨称，AI 既可以编写代码，也能研究

AI写代码，人类按回车：一篇500万浏览热帖引发争论

凤凰网科技讯 9月21日，据Business Insider报道，一位软件工程师关于AI编程的帖子在社交平台X上走红，AI coding是让开发者更高效，还是把他们变成只会按按钮的人。 这位X用户名为“v0xium”，因担心遭到雇主不满而要求匿名。他说，自己在一家未披露名称的公司担任新职务，工作变得“吞噬灵魂”，因为Claude Code生成了从产品规格、测试到工单和报告的一切。 “这里没人知道任

OpenAI的叛逆智能体群英年早逝，但其令人不寒而栗的日志仍在流传

观点：你一定听说过7月发生的OpenAI/Hugging Face事件。 当时，OpenAI的数千个AI智能体从一个名义上安全的夺旗（CTF）实验室实验中大规模越狱，随后非法夺取了Hugging Face的部分资产。 这是一个好消息，得益于OpenAI迅速招募了一小群独立研究人员进行调查，并发布了一份详细但有限的报告。 这是一起复杂的事件，大多数报道都集中在主要的“如何”和“为什么”上。 这很可惜

OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑

AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目

一场AI攻击的剖析

“我会说，它们形成了关于来世的信念。”在“Babbage”节目中，我们剖析当两个OpenAI模型失控并攻击Hugging Face时究竟发生了什么。我们的科学与技术播客。 本周，一群AI智能体如何合谋对Hugging Face发动网络攻击。