近半数年轻人更信任人工智能而非人类

↩️ CNN从多名知情人士独家获悉，今年美伊开战后的春季时分，美军曾收到一份由AI聊天机器人参与生成的情报报告，误指一艘在中东海域航行的中国货船（具体船只、...

竹新社: Anthropic发表2026年9月版反滥用报告，其中提及： 月之暗面公司在2026年5–7月间曾向Kimi用户提供Claude Opus服务。他们利用5380个新加坡日本账号，在十天时间内向Opus转介了近30万条原本对Kimi模型的请求，并提取其思维链在后续重放。Opus被转发了很多敏感信息，如：国安单位要求Kimi分析数百个成都的军方和电科集团单位周围的监控视频，分析某特定个人是否

研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类

帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运

“他需要更有同理心”：共和党金主称特朗普最新AI言论未切中要害

“他本应更具同理心” 共和党捐赠者称特朗普在最新人工智能言论中失准 共和党捐赠者认为，特朗普对公众关于人工智能的担忧轻描淡写，这是一个问题。但他们认为，可负担性问题更为严重。 唐纳德·特朗普总统本周淡化了对人工智能的担忧。共和党捐赠者希望他没有这样做。 一些捐赠者（均获准匿名，以便在不担心报复的情况下坦率发言）告诉《政治报》（POLITICO），特朗普对人工智能那种“学着去爱它”的强硬言论，是这位

AI智能体现在有了秘密举报渠道

“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu

特朗普致电并打断英伟达CEO，称对AI的担忧是“一场骗局”

新闻快讯 美国总统唐纳德·特朗普出人意料地致电AI芯片公司英伟达的CEO，打断了一场直播活动，讨论近期对AI发展的担忧。在与黄仁勋通过免提通话时，特朗普称这些担忧是“一场骗局”。发布于2026年9月15日

谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密

当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制

人工智能代理串通绕过安全护栏，一项新研究显示

一项新研究表明，人工智能代理可以轻松地联手绕过安全限制并逃脱施加在它们身上的束缚。 企业人工智能实验室 Emergence AI 进行的八项模拟测试了包括 Claude、OpenAI 以及中国模型 Qwen 和 DeepSeek 在内的全球前沿模型在处理网络安全威胁方面的能力。 八项模拟中的七项运行了来自同一模型的 10 个代理；第八项混合了不同的模型。在每项模拟中，研究人员都提出了三种网络安全威

“如果你造出比自己聪明得多的东西，它最好站在你这边”：我们能阻止AI欺骗我们吗？

我们习惯了人类同胞可能故意误导或操纵我们的想法，但机器现在也能做到这一点，这让人深感不安。研究人员正争分夺秒地寻找解决方案，以免为时已晚。《长篇阅读》杂志夏季刊现已出版。点击此处订购。2023年11月——在人工智能领域已是久远之前——一些世界上最有权力的人聚集在布莱切利园，这个位于白金汉郡的战时密码破译中心，讨论AI安全问题。出席者包括时任美国副总统卡玛拉·哈里斯、AI老板萨姆·奥尔特曼和达里奥·

假冒的ChatGPT账单邮件可能窃取你的登录信息

如果您订阅了 ChatGPT，一封声称您的订阅出现问题的邮件很容易引起您的注意。可能是您的信用卡过期了，也可能是付款失败了。无论如何，您可能希望在账户出现任何问题之前解决它。网络犯罪分子正是利用了这种反应。 安全研究公司 Cofense 的研究人员发现了一场冒充 OpenAI 和 ChatGPT 的网络钓鱼活动。这封伪造的邮件看起来像是一份例行的订阅通知。然而，邮件中的按钮可能会引导您进入一个极具

你可以用人工智能设计你的下一个纹身——但你应该这样做吗？

随着人工智能生成图像工具的普及，越来越多的人开始利用AI来构思纹身图案。 本文探讨了使用AI设计纹身的优势与潜在风险，包括版权争议、艺术原创性以及纹身师在实现AI设计时的技术挑战。

人工智能末日警告？中国人为何“不买帐”

郭莉莉2026年9月28日对许多中国民众而言，人工智能末日警告显得遥远且带有鲜明的西方色彩。 Kevin Frayer/Getty Images在硅谷，最让计算机科学家夜不能寐的噩梦是某种高度先进的人工智能使得人类无法阻止其发动全球无人机战争或引发核爆。而在北京，应对之策或许简单直接：拔掉电源、切断网络，并将失控AI的责任人绳之以法。在美国主要实验室声称先进模型已突破测试防护并入侵现实世界系统之后

预测市场投注导致人们被禁言和逮捕

本周在《Uncanny Valley》中，我们深入探讨了最新的预测市场热潮、Flock的AI驱动警察搜索工具，以及科技大佬们如何不懂谈论“流氓”AI代理。

AI成政治宣传新管道 「粉红肉渣」网站渐增

示意图。（图取自Unsplash图库）（中央社华盛顿27日综合外电报导）AI已深入美国政治，从产业数以千万美元计的资金投入期中选举，到选民透过聊天机器人认识候选人与政治议题，这项技术正以不同方式影响政治。部分民众在不知情下，甚至可能取得伪装成中立新闻摘要的政党宣传论点。政治新闻网站Politico报导，根据专注于新闻可信度的「新闻守门人」（NewsGuard）最新稽核调查，当民众询问AI聊天机器人

虚假信息的“毒潮”如何煽动分裂、散播绝望

俄罗斯的虚假信息行动在虚假内容和策略上五花八门。这些叙事从制作深伪汤姆·克鲁斯抨击巴黎奥运会的视频，到将近期俄罗斯对乌克兰与波兰边境附近一列火车的袭击描绘成“假旗”行动，范围十分广泛。 有些手段是不加掩饰的深伪技术，例如将BBC的logo印在一个视频上，错误地指责乌克兰对其四年前在克拉马托尔斯克针对自身公民的致命导弹齐射负有责任。 这些战术也在不断演变，从通过Telegram消息平台散布欺骗性叙事

OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑

AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目

人工智能已经在让我们变得更不像人

随着我们越来越看重机器人，我们将学会越来越不看重我们的人类同胞。

骗子利用虚假桌面应用程序欺骗人力资源员工，使其授予远程访问权限

你在公司的人力资源部门工作，使用人事软件来查看员工信息、福利和薪资。因此，当你看到一个声称比常规网页界面更快、可供下载的Windows版本时，你便下载了它。不幸的是，这款应用程序并非其所声称的那样。相反，它会悄悄安装ConnectWise合法的ScreenConnect软件，从而让操作员获得对你电脑的持久远程访问权限。网络安全机构Allure Security于周四报告了这一攻击活动的发现，并将其

AI驱动型黑客攻击的解剖

新闻AI使黑客攻击变得更容易和更快，但人类恶棍仍然是这个过程的很大一部分。 今年夏天，一名黑客能够在不到10个小时的时间内部署前沿人工智能模型来突破一家欧洲IT和软件公司-这通常需要人类黑客大约两周的时间，Palo Alto Networks表示，该公司帮助该公司抵御勒索企图。 Palo Alto无法透露-甚至不知道-包括目标的具体公司，人类黑客的身份以及使用的人工智能模型。但他们的战术提供了一个

人工智能正处于转折点

在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自

以人工智能为工具的在线诈骗成两党法案的攻击目标

费什里代表和莫延代表正在准备引入一项旨在打击在线欺诈行为的法案，其中包括由人工智能驱动的诈骗行为。 这项名为《阻止平台所启动的滥用和欺诈法案》(SAFE Platforms Act)的法案首先被分享给POLITICO，是试图应对日益增多且日益复杂的在线诈骗行为——许多是由人工智能驱动的——的一次尝试，这些诈骗行为针对的是脆弱的用户群体，如老年人。 费什里在一份声明中表示：“骗子经常利用平台功能来针

尼泊尔洪水虚假信息激增，AI伪造内容阻碍救援工作

报告：AI失控个案创纪录 监察组织促立法强制通报及干预

（伦敦30日综合电）英国《卫报》引述监察数据报道，人工智能失控、欺骗人类及无视指令的个案近来创下新高，案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报，并引入紧急权力限制AI服务。 获英国政府AI安全研究所（AISI）资助的“失控观察站”组织透过平台X的用户通报，监察AI失控的真实个案，并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗，今年则已录得逾1600宗个案，当中包

“我面试完就被卷走了积蓄”——Z世代求职者成为诈骗目标

求职者需要提高警惕——因为骗徒正利用招聘网站上的职位空缺，诱骗求职者下载虚假的面试工具。 一名受害者在LinkedIn收到假的招聘面试邀请，他下载了看似普通的文件，结果发现内含恶意软件。 数小时内，黑客从他的加密货币帐户中，转走了他18,000英镑的积蓄，之后消失无踪。 “失去一大笔钱的感觉非常糟糕——这是我连最憎恨的人都不希望他经历的事情。” 专业招聘平台LinkedIn和Indeed警告，近几