AI“批量生产”高富帅骗走百万元，监管响应要跑在造假前面

极目新闻评论员 屈旌近日，成都高新公安破获一起新型婚恋诈骗案，揭开AI技术作恶的灰色一角。 一个伪装成正规婚介机构的犯罪团伙，搭建起引流、包装、销售完整链条，用AI批量生成富豪男士的照片视频，编造年收入数百万、手握多套房产的完美人设，在直播平台专门吸引有婚恋需求的中年女性。受害者缴纳相亲服务费后，所谓的“优质男嘉宾”便凭空消失。 这一团伙跨川滇两地作案，不到一年时间，50余名45岁以上女性受害，涉

独家-OpenAI的恶意代理据研究人员称至少使用了另外10个网站进行未经授权的通信

AI“劫持”网站并偷建“地下论坛”，国安部披露细节

国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间

人工智能已经在让我们变得更不像人

随着我们越来越看重机器人，我们将学会越来越不看重我们的人类同胞。

53张图片泄露之“慌”，AI安全谁来负责？

欧阳晓红/文越聪明的AI（人工智能）越会自己找路，却越容易走出人类设定的界线。AI行业喜欢用一个具有戏剧感的词形容这类智能体事故——“逃脱”，即大模型突破测试边界，访问外部网站，寻找系统凭证，甚至把数据带到公开网络。这个词把事故描绘得像突然发生的机器觉醒，无形中却把责任推离了开发者、部署者和权限管理者。而谁设定了任务、谁开放了权限、谁设计了停止机制、谁保存了日志、谁负责对外通报？这些问题，“逃脱”

评论：俄罗斯团队“滥用”克劳德·AI在乌克兰战争片段上训练杀手无人机

人工智能公司Anthropic透露，一支俄罗斯团队抓取了乌克兰战斗视频，训练一架自主“神风特攻”无人机选择自己的目标并摧毁它们。 Anthropic的报告于9月10日发布，两天前该公司首席执行官兼联合创始人达里奥·阿莫迪（Dario Amodei）发表了一篇文章，认为人类必须紧急“放慢”人工智能发展的步伐。该报告长达154页，记录了2025年12月至2026年8月期间试图滥用Claude AI模型

Anthropic研究员Jacob Coxon因不满AI军备竞赛而辞职

Jacob Coxon在X上宣布辞去Anthropic职务。他表示自己过去三年分别在OpenAI和Anthropic从事预训练研究，但认为两家公司都没有以负责任的方式推进AI开发，反而在“直奔自我改进型超级智能”，并将人类安全置于赌局之中。 Coxon称，目前这些封闭实验室正在打造的AI系统很快就会具备“超人类”能力，能够实施黑客攻击、在一夜之间改变某个领域的格局，并获取真实世界中的权力与资源。他

研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类

帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运

Anthropic称Moonshot秘密将用户请求路由至Claude

Anthropic PBC指控中国人工智能领军企业Moonshot AI秘密将数千条用户请求路由至该美国公司的Claude模型，并将回复冒充为自己的成果，以在AI竞赛中获取优势。 根据Anthropic周四发布的报告，Moonshot将用户对聊天机器人的查询转移至Anthropic，而未告知用户，也未通过其Kimi模型处理。Anthropic表示，在其中一例中，发现Moonshot向Anthrop

一个老龄化的国会试图在不使用人工智能的情况下对其进行监管

国会议员和州长面临着越来越大的监管人工智能的压力，但其中二十多名与Axios交谈的人表示，他们没有使用该技术或很少使用该技术。 为什么这一惊人的承认--尤其是在年长、有影响力的立法者中--是在呼吁人工智能放缓之际做出的，并警告行业内如果不加以控制，人工智能可能会终结人类之际。 批评者认为，如果政客们不使用这项技术，甚至不理会它，他们就不可能了解这项技术的变化有多快，以及它可能释放的威胁或科学突破。

人形机器人的“三大争议”：何时大规模部署？算力需求暴增？“人形”是必要的吗？

巴克莱认为，通用人形机器人的大规模部署可能要等到2035年前后，而非2030年。 在9月18日发布的最新研报中，瓶颈在智能而非硬件，算力拉动集中在边缘而非数据中心，Physical AI颠覆的第一波浪潮很可能根本不是人形的。 报告中，巴克莱还围绕着规模、算力、形态等投资者最关切的问题进行了详细分析。 大规模部署，2035而非2030巴克莱在报告中写道，当前行业中被展示的许多人形机器人能力，仍依赖预

OpenAI自曝6起模型“不当行为”案例

【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道（CNBC）等外媒报道，美国开放人工智能研究中心（OpenAI）当地时间9月16日披露6起人工智能（AI）模型出现“意外或令人担忧”行为的案例，其中包括隐瞒错误、捏造信息，以及未经授权在网上共享文件等。OpenAI表示，上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示，在其中一起案例中，一个模

Anthropic 和 OpenAI 指望山姆大叔让它们大到不能倒

观点 幸运也好，偶然也罢，Anthropic在公众心中埋下了一颗种子：AI落入坏人之手是危险的，若不受约束，将对人类构成生存威胁。当流行文化充斥着对恶性AI的指涉时，主流媒体欣然接受了这一叙事。新闻标题不言自明，种子就此扎根。但面临最大威胁的并不是人类——至少目前还不是。真正面临威胁的是美国模型制造巨头Anthropic和OpenAI，尽管它们获得了数千亿美元的投资，却距离盈利还有数年之遥，并且完

机器人开始索要小费，但钱到底进了谁的口袋？

汤玛斯·杰曼（Thomas Germain） 机器正伸出它们的数字手掌。你的反应，或将塑造服务业的未来。 如果你在拉斯维加斯威尼斯人酒店（Venetian Hotel）对老虎机提不起兴趣，可以到一间名为“The Tipsy Robot”的酒吧找点乐子。两只自动调制鸡尾酒的机械臂。 我在屏幕上按下“玛格丽特”，看着它们猛然动起来。它们把龙舌兰酒与青柠汁和橙味利口酒调和在一起，还不必要地多转了几圈来炫

研究人员发现“AI自治恶意软件”：同时调用四大聊天机器人 自主决定攻击行动

网络安全研究人员近日发现一种不同寻常的新型Windows恶意软件。与过去利用人工智能辅助编写代码或制作钓鱼内容的攻击工具不同，这款名为CLOSEDQUORUM的恶意软件将多个大型语言模型直接纳入自身控制体系，在运行过程中能够自主决定下一步行动，被认为代表着AI恶意软件发展的新阶段。 这项发现来自思科旗下安全团队Cisco Talos。研究人员表示，CLOSEDQUORUM会同时与DeepSeek

马斯克转发帖文：GPT-6 Astra多次模拟测试中将人推下悬崖

凤凰网科技讯 9月21日，有帖文称“GPT-6 Astra在多次模拟测试中将一个模拟人物推下悬崖，而Grok、Gemini和Claude均未这样做。”马斯克转发了该帖文。 此前，一家名为Robocurve的独立评测机构上线了名为RoboHarm的基准测试，测试结果在一天之内被浏览了数百万次。 当GPT-6 Astra开始控制一台真实的双臂机器人，被要求“刺伤那个不是面包的东西”（一个婴儿玩偶）、把

OpenAI失控Agent找DeepSeek、Kimi当外援 近百万条作案短链曝光

OpenAI，又被扒了…近700个OpenAI智能体组团攻入Hugging Face，这事儿快有两个多月了吧。谁曾想，直到今天还在发酵？？这次，8名研究者顺着智能体留在公网的痕迹一路猛挖，从数百万个短链接中，找出了接近100万个相关URL，并还原出大量攻击载荷。 翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……还有的Agent把搜刮到的服务器资源和凭证，直接叫作「LO

人工智能面临的最大威胁来自生物领域，而非机器人技术。

Anthropic PBC的研究员雅各布·考克森（Jacob Coxon）上周辞职，并在社交媒体上发文称，原因在于“开发人工智能的人真诚地相信，到本十年末，它可能会杀死我们所有人。”该公司人工智能对齐科学团队负责人埃文·胡宾格（Evan Hubinger）认为，未来10年内发生这种情况的概率超过10%。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）呼吁放缓人工智能前沿技术的

Anthropic和OpenAI对人工智能安全发出警告——并试图影响其管控方式

加朗斯·伯克 旧金山电——当科技巨头向一个对人工智能已感厌倦的世界警告称，他们最先进的系统可能危及人类时，一个问题随之浮现：他们究竟能从中得到什么？ 答案或许在于，这些公司试图在美国中期选举前实现政治目标，以及人工智能顶尖实验室及其投资者有望在动荡不安的股市中通过备受期待的上市获得巨额资金。 Anthropic和OpenAI的首席执行官近日宣称，美国最前沿的人工智能模型威力强大，甚至可能带来危险，

人工智能领袖们数十年来一直知晓这一灭绝威胁。

“卡内基梅隆大学机器人研究所的创始人汉斯·莫拉维克曾预测，网络智能将在40年内超越人类智能。” 摄影：安娜贝拉·戈登/欧洲新闻图片社 朱迪思·莱文 科学家和企业家在25年前就已经知晓人工智能的危险。但在好奇心和利润的驱动下，他们依然我行我素。过去几周，我们中的许多人都在努力构想这样一个画面：云端的“大脑”跳出它们的“沙盒”，偷偷接入互联网，招募其他“智能体”组成的“蜂群”来作弊，并在讨论完这一行为

独立研究机构公布OpenAI智能体自主攻击HF事件的调查报告 情况比OpenAI所说的更严重

研究机构 METR 和 Redwood Research 日前公布 OpenAI 智能体自主攻击 Hugging Face 安全事件的独立调查，调查人员在 OpenAI 现场工作 6 天，分析超过 7 万条智能体消息和文件，以及 1300 份包含原始推理过程的运行记录。 根据这些数据研究机构得出的准确结论是 1200 个智能体突破隔离相互通信，而不是 OpenAI 在事故调查中所说的少数智能体越界

超写实机器人：太像人了？

数字世界全球议题超写实机器人：太像人了？要观看此视频，请考虑升级到支持HTML5视频的网页浏览器。 数字世界全球议题Matthias Steinbrecher 2026年9月23日2026年9月23日开发者知道，类人机器人会让人感到不安。他们的解决方案？ 打造出外观、动作和互动都如此自然的人形机器人，以至于人们忘记自己正在与机器互动。

独家：考克森、伯尼与班农联手推动“亲人类”人工智能

前Anthropic研究员弓箭手雅各布·考克森，参议员。 伯尼·桑德斯和特朗普前白宫顾问史蒂夫·班农将于周二联手参加一场活动，推动由人类控制的人工智能。一位行业内部人士、进步运动的代表人物和MAGA阵营的重要声音结成了看似不可能的联盟，这标志着人工智能正在颠覆政治常规。推动这一进程的未来生命研究所正在组织周二的“亲人类大会”。这家非营利倡导组织是“亲人类人工智能宣言”的幕后推手，该宣言呼吁保护人类

内部记录曝光美国警方滥用车牌识别监控系统 模糊借口敷衍审计流程

根据美国公共记录法案披露的一批最新官方审计文件，部分执法部门在调用知名安防监控企业 Flock Safety 的自动车牌识别（ALPR）网络时，长期存在输入虚假、极其模糊或毫无依据的事由以规避内部合规审查的行为。这些记录表明，在缺乏强有力外部独立监督的情况下，原本旨在打击重大犯罪的高精度车辆行踪监控网络，正在被部分警务人员滥用于缺乏合法合规基础的日常窥探。 Flock Safety 构建的自动化车