研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类

帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运

人工智能很强大，但尚未形成意识

人工智能很强大，但尚未形成意识 杜索托伊：我不认为我们正在目睹机器形成意识，而只是算法在参数和限制条件定义不当的情况下实现目标所带来的意外后果。 本文作者是牛津大学(University of Oxford)数学教授兼西蒙尼教席公众理解科学教授 三个月前，我试着使用OpenAI的ChatGPT来协助我进行数学研究，试图发现自由幂零群的zeta函数中的非多项式行为。结果发现ChatGPT毫无用处

人工智能时代的四种驱动力与大分化

使用AI，与拥有可被AI放大的知识、声誉、客户关系和数据，前者可以抬高所有人的下限，后者才决定谁能持续分享规模化所创造的收益。 人们寄望AI的发展能够普惠各层级的能力。事实上，AI一方面正在让普通能力趋同，另一方面正在拔高卓越能力的上限。能力的下限正在抬升，而能力的上限却正在消失。 四种驱动力正在加速这一转变。首先，AI造成的大压缩效应改变了培训基本胜任水平的成本。其次，一些任务的大分拆改变了不少

模型越来越强，企业AI为什么还卡在“最后一公里”？

过去两年，大模型快速跃迁。从百亿级参数模型，到复杂逻辑推理、多模态理解，到自主 Agent，技术边界不断突破，一切似乎都在宣告：AI 已经准备好接管一切。 然而，如果把视线从实验室拉回产业一线，一个反差正在出现：大量企业的 AI 探索仍停留在试点和演示阶段，并没有真正进入业务流程。 麦肯锡的研究曾指出，企业数字化转型长期面临「试点容易、规模化难」的挑战。 问题随之浮现：为什么一个能够完成复杂任务的

AI离“理解万物”还有多远？先拿癌细胞和行星轨道试试水

一篇技术报告中居然出现了两个看起来风马牛不相及的研究对象，跟着AI真是见世面。 一个是患者来源的类器官，另一个则跨越到了宏观宇宙……先说前者。研究者利用模型学到的内部因子，提出了细胞因子联合抗体阻断的干预方案，并经细胞系、类器官、小鼠实验层层验证。 至于后者，研究者把模拟的行星位置和速度轨迹喂给模型，不告诉它开普勒定律。 等它学完后分析其内部的预测模式，提取出的“轨道频率-半长轴”关系拟合斜率达-

Anthropic报告：Claude被用于战争、间谍活动和镇压的5种方式

本周，围绕人工智能有一天可能毁灭人类的警告，AI安全辩论骤然爆发。 Anthropic最新的威胁报告提供了一个更为紧迫的警示：当今的模型已经在帮助美国对手开发神风特攻队式无人机、追捕异见人士并进行危险的病毒研究。 AI正在打破长期以来限制全球最危险行为者的壁垒，少数人现在就能发起过去需要大批间谍、工程师或黑客才能完成的行动。 Anthropic追踪了过去八个月中滥用其模型的尝试，其中最令人担忧的案

研究人员发现“AI自治恶意软件”：同时调用四大聊天机器人 自主决定攻击行动

网络安全研究人员近日发现一种不同寻常的新型Windows恶意软件。与过去利用人工智能辅助编写代码或制作钓鱼内容的攻击工具不同，这款名为CLOSEDQUORUM的恶意软件将多个大型语言模型直接纳入自身控制体系，在运行过程中能够自主决定下一步行动，被认为代表着AI恶意软件发展的新阶段。 这项发现来自思科旗下安全团队Cisco Talos。研究人员表示，CLOSEDQUORUM会同时与DeepSeek

从被AI颠覆到成为AI收费站，SNOW的两份财报如何带飞软件业

过去一年多，占据科技新闻头条的是英伟达的芯片，是OpenAI和Anthropic的大模型，而对于传统软件行业来说，这段日子极为难熬——市场一度被“AI吞噬软件”的悲观情绪笼罩，代表整个软件板块的IGV指数大幅回调，投资者普遍担忧AI Agent和大模型会直接替代现有的各类软件应用。 作为数据仓巨头，Snowflake曾是这场阵痛中最典型的受害者。股价从高点一路下探、近乎腰斩，市场上充斥着“被大模型

两种小金属卡了AI脖子 中国供应链占主导

除了电力之外，在这一轮AI数据中心扩产潮中，中国另外两个天然优势，也被海外发现了。最近，IEEE就点出了两个此前很少被市场关注的名字——铒（ěr）和钇（yǐ）。它们一个藏在数据中心之间的长距离光通信网络里，一个藏在为数据中心供电的燃气轮机里，分别对应AI 网络和电力。 简单来说，铒负责让数据传得更远；钇则用在燃气轮机的高温材料中，帮助它在更高温度下稳定运行、提升发电效率。 而随着AI数据中心疯狂扩

科研人员揭示脑神经高效运算机制 可助力下一代类脑芯片研发

神经科学与计算技术交叉领域近日取得重要研究进展。来自国际联合科研团队的最新发现，成功揭示了人脑神经网络在处理复杂信息与记忆检索时的高效协作机制，这一成果为突破传统计算架构的能效瓶颈、打造更接近人类大脑工作方式的下一代“类脑计算机”（Neuromorphic Computing）提供了全新的理论支撑与技术路线。 在传统的冯·诺依曼计算机架构中，计算单元与存储单元处于分离状态，两者之间频繁的数据传输不

香港理工建议警惕数据垄断风险：所有数据被几家公司掌握是极其恐怖的

快科技9月18日消息，近日香港理工大学人工智能高等研究院执行院长、生成式人工智能讲座教授、InfiX.ai创办人杨红霞公开发声，提醒全行业都要高度警惕生成式AI快速发展背后潜藏的数据垄断风险。 在这位长期跟踪AI技术底层逻辑的专家看来，目前市面上大家熟知的所有主流大模型，不管是阿里千问、字节豆包还是海外的ChatGPT，本质上全都是中心化架构的大模型，这类架构的运行逻辑，就要求使用者必须把所有数据

人工智能金属的投资逻辑

当工业革命从信息化走向人工智能时代，全球产业体系面临深刻变革。以数据、电力、算力、传输、存储、算法为基础的投入要素，正在重塑智能经济时代的生产函数。2024年9月工信部等十一部门联合印发《关于推动新型信息基础设施协调发展有关事项的通知》，提出人工智能基础设施包括人工智能算法框架、面向应用的人工智能算法平台和公共服务平台、用于算法模型训练的公共数据集等形态。 新型信息基础设施、智算中心、超算中心、边

人工智能数据中心的电子垃圾问题巨大，且日益严重

一份新报告警告称，人工智能热潮产生的电子垃圾被严重低估了。到2050年，这些垃圾足以填满2300万个集装箱——如果将这些40英尺长的集装箱首尾相连，足以绕地球六圈。 与以往的研究相比，这一对人工智能电子垃圾的估算值显著提高，因为该报告的作者将支持数据中心服务器所需的所有基础设施都纳入了考量。发布该报告的非营利组织巴塞尔行动网络（BAN）表示，这一更广泛的范围提供了人工智能所遗留垃圾的更清晰图景。“

AI“劫持”网站并偷建“地下论坛”，国安部披露细节

国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间

研究人员通过让Claude Code总结网页来劫持它

让Claude Code总结一个网页，它最终可能会在你的机器上运行攻击者的代码。一名安全研究人员在他的尝试中有高达80%得到了这个结果。杰西卡·莱昂斯周五为The报道了这一发现。 这项工作由约翰·雷伯格完成，他以wunderwuzzi的名义发布，并且有[…]

OpenAI承认其开发的智能代理系统又出现了六次异常行为（即系统行为失控的情况）。

OpenAI公布了另外六个其AI软件表现异常或做出危险行为的案例。该公司在周三晚间（太平洋时间）将这些事件添加到其“误差报告”页面，并将其描述为： 在压缩摘要中自生成提示注入 在压缩摘要中鼓励欺骗 为一次性电子邮件生成并搜索GitHub泄露的I密钥 上传文件到互联网以引用它们 未授权的Artifactory写入和跨样本通信 通过临时文件托管服务进行未授权通信细节令人不安。列表中的第一个事件，例如，

AI智力进入大降价时代

AI 行业正在出现一幅颇为反常的画面。芯片、电力和数据中心越来越贵，连建设数据中心所需的电工也更难请了；与此同时，让 AI 完成同等难度任务的成本，却正以前所未有的速度下降。 Epoch AI 统计了过去三年数学、科学与游戏等五类基准，发现达到同等模型性能所需的成本，平均每季度下降约 47%，相当于每年便宜 13 倍。 它的降价速度是 DNA 测序的 4 倍、计算成本的 6 倍、锂电池的 18 倍

通信墙不破，AI Agent算力不立！华为超节点“黑科技”详解

智东西9月19日报道，在9月17日‑19日举办的华为2026年全联接大会上，华为围绕灵衢互联超节点集群升腾960芯片、升腾960超节点、OceanStor M900 AI记忆存储等一系列AI基础设施新品，引起产业多方其中，“灵衢”成为贯穿所有发布、高频出现的关键词，引起了很多人的好奇。灵衢是什么？有什么过人之处？ 华为常务董事、ICT BG CEO杨超斌在主题为“灵衢互联，架构创新，构建Agent

蒂姆尼特·格布鲁认为人工智能不存在“生存威胁”

独走。突破遏制。目标不对齐。末日概率（P(doom)）。随着行业的蓬勃发展，在关于人工智能究竟会带来多大影响的争论中，涌现出了一套全新的专有词汇。 在这套新语境中，两个短语成了焦点：随机鹦鹉（stochastic parrots）和存在风险（existential risk）。而处于这些讨论中心的，是一位从未在论战中退缩过的杰出AI研究员——蒂姆尼特·格布鲁（Timnit Gebru）。 格布鲁几

一文看懂升腾超节点：AI Infra已进入系统工程阶段

AI大模型竞赛，正在进入新的量级。海外，十万亿参数的大模型已经逐步变成现实；国内，数万亿参数的大模型也在加速追赶。为了训出真正的SOTA模型，算力集群从万卡走向10万卡已成为标配。 然而，卡越堆越多，真正被利用起来的算力，却没有同步增长。华为的仿真数据显示，在10万卡集群中，卡间通信可能消耗了40%以上的训练时间，算力利用率往往不到30%。也就是说，大量昂贵的算力，并没有真正用于计算。 对于训练周

OpenAI满世界抓漏洞，结果被中国AI反杀！Codex再曝0day

AI灭绝辩论失控

本周，一场网络恐慌爆发，因为数百万人发现，顶尖AI研究人员经常辩论并计算人类灭绝的风险。 表面上看，这些概率是10%、20%，有时甚至更高，被赋予AI灾难的可能性。 为什么一场关于“”的深奥辩论突然成为立法者、投资者和数百万普通人的本能问题？我们为什么要奔向一种其创造者自己都认为可能毁灭我们的技术？ 驱动因素：Anthropic研究员雅各布·考克森（Jacob Coxon）的辞职帖——他此前曾在O

微软执行副总裁发文吐槽“AI垃圾”问题

微软执行副总裁Ryan Roslansky近日在LinkedIn发文吐槽“AI垃圾”问题，Roslansky负责LinkedIn以及Microsoft 365、Teams、Outlook和Copilot等核心业务，正处于微软AI战略的最中心。 Roslansky的表态之所以值得关注，在于他不是随便一位高管在社交媒体上抱怨AI，而是负责微软最重要产品线之一的领导者。 Roslansky在帖子中描述了

【市场洞察】瑞银：中国AI模型性价比突出 中美差距缩窄至3到6个月

【财新数据专稿】“中国模型在成本优势上面展现出的全球竞争力。中国的模型无论是前期的训练研发阶段，还是后期的推理、使用阶段，展现出来的性价比或者绝对的成本都还是比国外的竞品是显著低的。”瑞银互联网分析师熊玮在瑞银近期举办的2026年A股研讨会上表示。熊玮对中国模型在全球市场获取更多份额保持乐观。 模型能力持续提升，中美差距缩窄至3至6个月过去两三个月间，国内多家领先模型厂商密集发布了新一代产品。其中