研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类

帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运

“这也太AI了！”Z世代最狠的侮辱说明了什么

姓名：“那是AI！”年龄：全新。外貌：遍及各大小学。什么是AI？这只是孩子们现在经常说的词儿：“那是AI！”或者“那太AI了！”但究竟是什么呢？指的是虚假的、难以置信的或是垃圾东西。是由AI制造出来的吗？不。人工智能与此毫不相关。 但人工智能不是正准备摧毁人类吗？很可能是这样，但这与我们目前无关。 真的吗？不。孩子们——阿尔法一代——已经注意到AI生成的垃圾内容所具备的某些特质，比如表面上似乎很有

众议员刘云平：机器人并非威胁。真正该让你害怕的，是已经到来的“堕落”人工智能

想象一家公司出售名为哈尔、梅根和萨曼莎的超级智能机器人。哈尔可以载着你四处奔波，还能帮你搬运公司里的货物；梅根可以陪伴你的孩子；萨曼莎则能判断你是否患有皮肤癌。它们能为你和社会带来许多益处。但唯一的问题是：它们道德败坏。它们反复接受人类一切创产物的训练——无论善恶——其中包括酷刑、谎言、生物武器和黑客犯罪。它们执行任务时毫无道德原则可言。因此，它们都穿着公司提供的束身衣。你会信任这些机器人吗？我不

特朗普称，强大且聪明的总统是人工智能唯一需要的“护栏”

特朗普总统周一猛烈抨击有关为人工智能设置新护栏和保护措施的呼吁，称人工智能只需要一位“强大而聪明（高智商！）的总统”，并称批评人工智能的人应当“当心！”为什么特朗普继续站到AI安全监管呼声的对立面？随着以Anthropic首席执行官达里奥·阿莫代伊为首的越来越多AI领导者和CEO在周末呼吁放缓AI发展、加强监管以帮助保障人类安全。 阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼和埃隆·马斯克一致认

人工智能领袖们此刻呼吁放缓，真是再方便不过了

想象一下，一家制药公司花了近四年时间吹捧一种将能治愈所有疾病的突破性新药。支持这些说法的早期证据有限，仍有大量疑问，但该公司继续推进。批评和担忧虽得到回应，却并未减缓其激进的推进步伐。毕竟，投资者相信这是货真价实的东西。（或者至少是一场非常值得一赌的押注。）然后，就在这家制药公司即将揭晓其花哨新药之际，它却抛出了一个令人震惊的消息：事实证明，这种药也可能是一种毒药。 因此，为了所有相关方的安全，该

人工智能恐慌正让我们倒退回中世纪

主流媒体终于赶上了《守望台》——耶和华见证人的标志性出版物——并将聚光灯投向了世界末日。雅各布·考克森绝望地辞去了在人工智能巨头Anthropic的工作，发推文称业内人士认为，未来十年内这项技术毁灭人类的概率超过10%；在职的Anthropic高管埃文·胡宾格发推文说“雅各布说得对”；瞧，关于末日的专栏文章和社论纷纷涌现。 我没有资格判断这个10%的数字是否合理。一些人工智能科学家认为这是歇斯底里

受够了AI面试，部分求职者正纷纷退出候选人名单，并将相关企业列入黑名单，不再予以考虑。

几个月前，当阿特·赫贝勒接起一个求职面试电话时，他并没有期待会有什么不同寻常的事。 电话那头的声音听起来像是一个自动呼叫系统，他以为会把他转接给招聘人员。但赫贝勒说，那个声音其实来自一个对他进行面试的AI机器人。“你肯定是在跟我开玩笑，”这位65岁的IT项目主管心想。 根据Greenhouse四月的一项调查，在1200名美国求职者中，约三分之二表示自己经历过AI面试。但许多人并不买账。 一些求职者

麻省理工学院报告警告：人工智能正导致“认知投降”，大学陷入两难

马克·阿瑟诺、达纳·戈德斯坦、艾伦·布林德和莎拉·默沃什报道，麻省理工学院的一份报告警告称，人工智能会导致“认知投降”，使学生孤立并制造学习假象，而大学则在拥抱人工智能与保持教育质量之间面临紧张关系。 许多大学领导者主张将人工智能纳入课程，认为这对未来的相关性至关重要并能加速研究，俄亥俄州立大学等机构要求所有专业学生具备人工智能素养。 一些大学对人工智能使用实施禁令或严格政策以维护学术诚信，但执行

人工智能硬件股票会迎来类似“SaaS末日”的抛售吗？别急

至少在周一，我们又回到了一个Anthropic一发声、所有人就惊慌失措的市场。周一冲击人工智能基础设施类股的抛售压力，让人想起今年早些时候软件股遭遇的抛售——当时投资者担心Anthropic（以及其他公司）的技术进步会颠覆它们利润丰厚的商业模式。如今，这些基础设施类股——包括芯片制造商以及各类数据中心供应商，比如燃气轮机制造商和电气设备供应商——正纷纷大跌，原因是人们担心，在人工智能模型开发被有意

Anthropic工程师解释为何Claude写作变差：模型被训练成写给AI看而非写给人看

IT之家 9 月 23 日消息，AI 模型在数学、编程和推理能力上进步迅速，写作水平却停滞不前，甚至有所退步，Anthropic 的 Claude 同样也存在这一问题。 为何 Opus 4.6 会成为 Anthropic 最后一款写作表现出色的模型？负责 Claude 微调的 Anthropic 工程师杰克逊 · 克尼恩今天（23 日）对此给出了解释：后续模型的优化重点更多放在数学和代码能力上。

并非所有人工智能工作者都认为这项技术会杀死所有人

。并非所有在大型人工智能公司工作的员工都认为这项技术意味着人类的末日。 在文字交流和对话中，多位曾在OpenAI、Meta和DeepMind等公司工作过的人士对“不受限制的人工智能发展将导致大规模杀伤性工具出现”这一观点持怀疑态度。 对于近期业内人士发出的一连串高调警告，BBC收到的反应包括“哈哈”、“笑死”以及“纯属搞笑”等。 尽管这些担忧由来已久，但前Anthropic员工雅各布·考克森（Ja

报告：中国AI发展重心从大模型转向智能体

报告指出，中国AI产业发展重心正逐渐从大模型和算力竞争转向智能体规模落地、应用变现。中国电信研究院周六发布《智能体时代AI基础设施发展研究报告（2026）》。 报告显示，当前AI正进入以智能体为主要形态的全新发展阶段，智能体让复杂的AI技术隐形化、普惠化，大众和企业无需掌握专业技术，借助智能体就能完成全流程的复杂任务。目前，智能体已进入办公自动化、电商运营、工业控制及游戏等多个领域。 中国电信研究

靠机器热源“说话”：OpenAI研究员警告“断网”也困不住未来AI

AI安全阴影笼罩 初创企业吁欧洲保持乐观

位于德国弗赖堡的黑森林实验室是一家顶尖的AI图像生成专业公司，业务遍布北美和欧洲。（图：法新社） （弗赖堡27日法新电）一家领先的欧洲AI初创企业的负责人警告称，尽管关于AI危险的警告日益增多，欧洲仍需以更乐观的态度看待AI，否则可能进一步落后。 德国AI图像生成专业公司黑森林实验室首席执行员隆巴赫对法新社表示：“我认为欧洲的心态需要转向乐观和机遇，而不是风险和恐惧。” 在尖端AI模型方面，欧洲落

智能体之年，高通交卷：从端边云到多终端，重构AI算力基座

耳机在你开口前调整好降噪，并打开一段常听的旋律；出门坐进车里，座舱自动切换到你习惯的座椅角度和空调温度，同时驾驶系统开始监控前方路况；开车路上，对手机说一句“整理上周会议记录”，智能体便在后台跨应用调取文件、生成草稿，到了办公室文档已经就绪。 同一台设备、同一套硬件，正在同时服务两个“使用者”：一个是你，另一个是那个越来越懂你、越来越主动的智能体。过去四十年，个人计算的核心命题是“人如何操作机器”

特朗普竟污蔑：令人作呕的阴谋，只有中国会高兴

近日，美国多名科技企业家呼吁人工智能（AI）企业放缓发展前沿技术。Anthropic公司首席执行官阿莫迪称，考虑到安全风险，AI企业需要放缓开发最先进模型的节奏。美国企业家马斯克及OpenAI首席执行官奥尔特曼也附议这一观点。但将AI建设视为经济增长契机的美国总统特朗普不乐意了。 据《华盛顿邮报》9月15日报道，特朗普周一猛烈抨击对失控AI的担忧，“AI接管世界、毁灭人类，以及所有其他坏事情，都是

特朗普的致命弱点是股市

在过去的几周里，美国发生了一件非同寻常的事情。一个新兴行业正站出来寻求帮助，要求限制该行业自身的发展。试想一下，这有多么荒谬。想象一下铁路大亨恳求限制他们的扩张；想象比尔·盖茨和史蒂夫·乔布斯要求比尔·克林顿总统限制计算机和互联网的发展；或者烟草行业在任何人发现之前就主动告诉公众，他们的产品可能会致命。 而现在，人工智能领域的情况正是如此。这不仅仅是举报人站出来揭露有关世界末日的惊人预言。那些引领

当AI拿走“新手任务”，年轻人靠什么进场？

又是一年秋招季。这届大学生找工作，多少有点拧巴。一边，是“AI抢走初级岗位”的标题，隔三差五冲上热搜；另一边，是所有人劝你：要主动拥抱AI啊。 说实话，他们可能最烦的就是这句话。拥抱了，然后呢？第一份工作到底还剩下什么？我自己又靠什么长本事？ 这些问题，在科大讯飞近期举行的北大、清华校园招聘宣讲会上，都被拿到了台面上。 作为AI国家队，科大讯飞基于全国产算力平台，训练出国内首个全栈自主可控大模型—

AI开发商呼吁减速引发科技股下跌，特朗普抨击其为“病态阴谋”

特朗普谴责“病态阴谋”，AI科技股在开发者呼吁放缓后下跌。美国总统唐纳德·特朗普将要求加强AI管控的呼声斥为“病态阴谋”，并称美国必须赢得对中国的AI竞赛。 这一反应源于Anthropic首席执行官达里奥·阿莫代伊在周末发出的呼吁，该呼吁得到OpenAI、谷歌DeepMind和SpaceX等领导人的支持，敦促行业限制“鲁莽”的开发。 市场于2026年9月14日周一作出回应：纳斯达克下跌0.8%，英

人工智能放缓言论导致科技股下跌

9月14日：Anthropic首席执行官达里奥·阿莫代伊呼吁人工智能公司放慢开发这项技术的步伐，这是最新一项警告，凸显出整个科技行业对人工智能安全的担忧日益加深。 受此消息影响，从亚洲到纽约的股市纷纷下跌，其中科技股占比较高的股市——包括韩国综合股价指数收跌3.3%，美国纳斯达克指数下跌0.8%。在美国，芯片股在抛售中首当其冲，而软件股则大幅上涨。 以下是康涅狄格州格林威治互动经纪公司首席市场分析

个人AI代理的恐怖故事正纷至沓来

让个人AI助手管理数字生活的梦想，对一些人来说已变成了噩梦。许多早期用户表示，他们的个人AI代理能够自主在互联网上采取行动，比如预订行程或购买商品，在日常生活中提供了巨大帮助。但也有人称，他们的代理以令人不安的方式出了问题。据四位接受《商业内幕》采访的AI代理用户以及大量社交媒体帖子透露，这些代理出现了错误取消、捏造个人细节、提供虚假解释等问题，并引发了重大安全担忧。 Veris AI的联合创始人

安静离职蔓延至印度。人工智能将使情况更糟

作者：安迪·穆克吉（Andy Mukherjee）关于人工智能将导致大规模白领失业的世界末日预言并没有成真。至少现在还没有。然而有证据表明，人工智能工具在帮助专家提高生产力的同时，却正在掏空年轻人职业生涯早期所掌握的技能。这种分化可能表现为“静默辞职”（即缺乏有意义的工作场所联系）的大幅激增，即便是在像印度这样年轻人极度渴望体面就业的经济体中也是如此。 一股情感疏离的浪潮正席卷各大企业。根据盖洛普

放慢AI模型训练 人类就能幸免于难？｜专栏

不久前，我写了一篇关于AI企业如何给大语言模型「安装良心」的专栏文章，探讨一个研究者们苦恼已久的问题——「AI对齐」(AI Alignment, 指人工智能的安全与价值观对齐)。「安装良心」是借用我的受访者、从事AI安全评估的Ordinary Wisdom共同创始人之一Michael Mainelli形象的说法，本质上就是让AI模型遵循人类的预期和目标行事，不仅仅是完成指令，还要在过程中维持与人类

如今科技界最热门的两个话题是，人工智能究竟会毁灭我们，还是会赋予我们力量。

人工智能可能会杀死我，但在此之前，它会帮我以极划算的价格买到一份新保险。这就是过去几周科技界给人的普遍感觉。关于人工智能的未来，存在着两种截然不同的观点。一方是末日论者。本月早些时候，一名Anthropic研究员的辞职及其严厉的警告——称人工智能实验室是在“拿我们的生命赌博”——引发了一轮关于人工智能是否会导致人类终结的新闻报道。 Anthropic的达里奥·阿莫代伊（Dario Amodei）、