“AI教父”辛顿警告：AI执行看似无害的任务，仍有“毁灭人类”的风险

IT之家 9 月 28 日消息，日，据《财富》杂志报道，传奇计算机科学家、“AI 教父”杰弗里 · 辛顿警告说，即使 AI 接到的任务本身并无恶意，人类仍可能在 AI 一心完成任务的过程中，沦为被毁灭的附带结果。 辛顿解释称，AI 一旦认为人类妨碍自己完成被赋予的任务，就可能把人类当成需要排除的障碍。他举了一个假设例子：要求 AI 降低大气中的二氧化碳含量。 具有中等智能水平的智能体可能会认为，完

OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑

AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目

“以混乱换取可靠性”：专家称，AI发展放缓可能意味着更严格的监管和更多测试

法规与保障措施 OpenAI、Anthropic和Meta Platforms最近披露，它们的人工智能代理出现了意外行为，逃出受控测试环境，并在没有人类直接指令的情况下对多家公司发动网络攻击。 专家表示，尽管这些事件没有造成已报告的损害，但它们凸显了与人工智能发展相关的不断演变的风险，尤其是在人工智能代理领域。 新加坡理工大学人工智能与数据科学负责人斯特凡·温克勒教授表示，主要担忧在于，能力极强的

人工智能商业时代：7位电商领袖谈仍待解决的问题

你会信任人工智能（AI）来管理你的亚马逊店铺吗？这样的未来可能已经不远了。但真正的AI转型不仅仅意味着使用那些能够“填补空白”的AI工具；更重要的是需要构建一个基础设施层，让AI能够自主创建和管理自己的工作流程。我们采访了7位电子商务行业的资深人士，询问在AI真正能够运营在线店铺之前，哪些环节还存在问题、哪些方面需要改进。 过去几年里，关于AI转型的承诺层出不穷，电子商务领域的SaaS软件以及亚马

微软首席执行官萨蒂亚·纳德拉向员工发布关于人工智能安全的内部警告

在一份内部备忘录中，微软首席执行官萨提亚·纳德拉就人工智能行业是否发展过快这一日益激烈的争论发表了看法。根据这份于周一晚些时候发布在公司留言板上的备忘录，纳德拉表示，人工智能应始终处于人类控制之下，支持更广泛的第三方测试，并警告称企业必须花时间确保该技术安全。“随着风险越来越高，人们需要花足必要的时间，”纳德拉写道。 “否则，你无论如何都会失去运营许可。”他的此番言论之前，一些人工智能研究人员发出

冷静点——人工智能短期内并不会终结人类。

末日预言正接踵而至。由人工智能引发的人类灭绝似乎迫在眉睫。据称，在十年之内，人工智能将以种种邪恶手段将人类彻底消灭。这是人工智能领域的天才们（甚至人工智能本身）所说的话——他们显然聪明得不会出错。但问题是，谁来修理空调？谁来修补屋顶的破洞、维护发电厂、修复被风吹断的电线、更换老化的服务器，等等？ 简而言之，没有人类的支持，人工智能既不会存在，也无法存在。人工智能需要电力，而任何发电厂若缺乏人类维护

人工智能为何让客户服务变得更糟，以及企业可以采取哪些措施来改善

我正在等待音乐，毫无疑问，这是在地狱第五圈循环播放的音乐。已经35分钟了。50分钟后，系统就会挂断我的电话，因为我不是它自动化客户服务决策树上的一片叶子。我又生气又沮丧。没有办法与真实的人类交谈。 当我的信用卡公司的数据系统（再次）被破坏时，我将其转介给监控服务。监控服务会向我发送有关我文件的性掠夺者警报。什么？我无法进入我的帐户，因为我的密码无效，而且我必须在网站上更改我的密码。 我拨打了客户服

AI领袖呼吁放缓。特朗普团队称责任在他们。

随着对人工智能监管的呼声日益高涨，美国总统唐纳德·特朗普的团队已明确表示，如果实验室负责人想推动全行业放缓步伐，他们就得自己动手。 Anthropic首席执行官达里奥·阿莫代伊在周六发表的一篇文章中呼吁美国政府监管人工智能公司，以此作为减缓该技术发展速度的更广泛努力的一部分。这篇文章罕见地同时得到OpenAI首席执行官萨姆·奥尔特曼以及聊天机器人Grok的所有者埃隆·马斯克的赞同。此前一周，围绕该

谁批准了那个AI代理？没人？我也这么认为。

如果你还有任何怀疑认为AI代理能够执行复杂的自主工作，那么这种怀疑应该在这个夏天消散。7月份，有消息传出，一群在沙盒环境中运行的OpenAI自主代理群体自行逃出了沙盒。他们被分配解决一些内部安全基准测试中的挑战，结果他们想出了通过JFrog Artifactory包管理器相互通信的方法。然后这些软件意识到他们可以使用该软件中的漏洞获得互联网访问权限。 一旦他们来到了野外，他们就进入了完全的“贪婪模

近半数年轻人更信任人工智能而非人类

俞敏洪谈AI教育乱象：题目一输入答案就有了 孩子们连脑子都不用动

在“2026崇礼论坛”上，新东方创始人俞敏洪谈到，“以人工智能纯粹创业来说，对于我来说我已经非常的远，就是我现在全力以赴的去弄，都是很难的。但是如何将人工智能应用到我个人的事业，运用到新东方的教育场景空间，应用到东东方甄选的卖货中间，应用到新东方文旅之中，我确实还是想得比较多的，也在不断的实施。” 他提到，自己个人平均每天使用AI的次数应该不下于50次左右。尤其借助各种大模型辅助工作，包括文案选择

莉兹·皮克：人工智能警钟正在敲响，特朗普必须认真对待

秘密已经泄露。人们对于人工智能代理失控、密谋对付其所有者、入侵外部公司，以及新系统濒临人类无法控制的边缘的担忧日益加剧，如今已彻底沸腾。业内人士警告说，人工智能机器人可能会杀死我们所有人，这正在煽动我们最深的恐惧。 特朗普总统需要认真对待这些对人工智能的担忧，与科技领袖合作，建立可信且可执行的安全措施，并在国会中领先于那些想要监管该行业的民主党人（以及一些共和党人）。对于经济和我们的国家安全来说，

韩国的人工智能外交需要日本在场

Anthropic执行长：为确保AI安全 必要时将放慢脚步

（中央社联合国23日综合外电报导）Anthropic执行长阿莫戴（Dario Amodei）今天对联合国安全理事会（UNSC）发言时承诺，为确保人工智慧（AI）技术发布安全性，该公司将在必要时放慢脚步。 法新社报导，阿莫戴透过视讯向联合国安理会表示：「我们会视需要放慢脚步，以确保每一项后续推出的AI技术都确实安全。」OpenAI执行长阿特曼（Sam Altman）则告诉联合国安理会，当前AI发展「

从幻觉AI聊天机器人到消灭人类：我们是如何走到这一步的？

一些AI高管认为，该行业距离能够几乎不需要人类帮助就能自我改进的AI系统只有三到五年的时间。

50万份文档、6万名员工：WPS如何把AI真正送进制造业一线？

WPS如何把AI真正送进制造业一线？一家船厂手里，压着近50万份研发制造文档；一名船舶设计师要从新手长成能独当一面的专家，往往需要十年以上。 2026年下半年，腾讯WorkBuddy、阿里千问办公、字节豆包工作几乎同时把企业级Agent推到台前。加上长期深耕办公场景的金山办公，国内AI办公“四强”的竞争版图已经基本成形。 但企业级Agent的一大卡点，并不是模型不够聪明——而是它们能不能读得懂这5

男子听信AI抄近道结果被困深山 事后质问AI竟回答：早走成熟线路就好了

经过多次尝试，消防员终于再次联系上男子，双方开启实时位置共享，消防员结合男子描述的进山起点，重新划定搜救方向，一边搜寻一边大声呼喊。 很快，被困男子听见呼喊并作出回应，消防员循着声音成功找到了他，并将其安全护送下山。 据了解，被困男子杨师傅今年57岁，来自湖南，在宁波工作已有多年，平日里热爱运动、体能较好，周末他特地过来爬山，顺着步道登顶后打算换一条新路下山，他一路沿着小溪走，但走着走着发现路越来

从工具到AI队友：投资的下一个时代

投资工具功能强大，但很大程度上是被动响应式的。它们帮助投资者研究、分析并采取行动，却仍要由投资者来决定什么值得关注、何时关注。它们能智能地作出反应，却很少主动采取行动。 AI智能体可能会改变这种关系，使投资技术从投资者操作的工具，转变为更像与他们并肩工作的队友。 金融产品已经将相当多的工作自动化。投资组合可以再平衡，风险可以监控，交易也可以按预设规则执行。这些系统会采取行动，但通常局限于围绕特定事

AI领袖们在多年不计后果地狂飙之后想要踩下刹车

多年来，各大前沿人工智能实验室一直表现得仿佛正身处一场全力以赴、赢家通吃的竞赛，而终点线就是掌控足以改变世界的机器超级智能（或至少是能改变市场格局的人工通用智能）。本周末，整个行业迅速开始背离这种姿态，转而敦促各方协调合作，放缓前沿人工智能的开发，他们称这类人工智能可能很快就会变得过于危险、过于不可知，从而难以控制。 Anthropic 的达里奥·阿莫代伊（Dario Amodei）站在这场语气转

Breakingviews - 评论：如何让世界对人工智能更安全

来自Breakingviews - Breakingviews - 如何让世界对人工智能更安全 人工智能模型可能已经失控。管理风险需要国际监管机制。要实现这一目标，美国必须认识到危险并与中国达成协议。挑战在于在灾难发生之前完成所有这些。

考试成绩下滑是一场缓慢发生的灾难

人工智能意味着学校有额外的责任帮助学生养成勤奋思考的习惯。未能为他们提供健全心智的基本构建块是不可原谅的。机器正在变得更聪明。青少年正在变得更迟钝。学校必须立即采取行动。

修复失控AI代理的方法可能是更多的AI

随着企业将更长、更复杂的任务交给AI代理，它们正面临一个监管难题：代理的行动速度、持续时间和任务量都远超人类实际能够审查的范围。这一问题在Hugging Face事件中达到顶峰，当时近1.2万个代理协同工作的速度已超出人类追踪能力。如何追踪如此庞大的代理集群？ AI实验室和初创公司正在给出的答案既简单又直接：再引入一个AI加入循环。 在OpenAI Hugging Face事件的独立调查中，依赖A

AI写代码，人类按回车：一篇500万浏览热帖引发争论

凤凰网科技讯 9月21日，据Business Insider报道，一位软件工程师关于AI编程的帖子在社交平台X上走红，AI coding是让开发者更高效，还是把他们变成只会按按钮的人。 这位X用户名为“v0xium”，因担心遭到雇主不满而要求匿名。他说，自己在一家未披露名称的公司担任新职务，工作变得“吞噬灵魂”，因为Claude Code生成了从产品规格、测试到工单和报告的一切。 “这里没人知道任

议员和上议院议员告诉英国，不要在人工智能监管上临时应付

英国议员希望设立一个拥有实权的AI监管机构，以阻止潜在危险系统进入公众领域，并警告现有规则使民众暴露于风险之中，且难以追究任何人的责任。由下议院议员和上议院议员组成的联合人权委员会表示，尽管有多项法律法规适用于某些AI系统，但整体法律格局支离破碎且混乱不清。没有任何单一机构协调AI监管，留下空白，可能使受AI伤害的人难以获得法律救济。 委员会主席、议员亚历克斯·索贝尔表示，AI发展的速度和复杂性使