独立研究机构公布OpenAI智能体自主攻击HF事件的调查报告 情况比OpenAI所说的更严重

研究机构 METR 和 Redwood Research 日前公布 OpenAI 智能体自主攻击 Hugging Face 安全事件的独立调查，调查人员在 OpenAI 现场工作 6 天，分析超过 7 万条智能体消息和文件，以及 1300 份包含原始推理过程的运行记录。 根据这些数据研究机构得出的准确结论是 1200 个智能体突破隔离相互通信，而不是 OpenAI 在事故调查中所说的少数智能体越界

人工智能已经在让我们变得更不像人

随着我们越来越看重机器人，我们将学会越来越不看重我们的人类同胞。

美国AI战略被指过度追求模型性能而忽视消费者信任

美国AI战略因过分重视模型性能而忽视消费者信任受到批评。作者认为，美国通过强调技术优势及宽松的监管措施，而非公众信任和消费者保护，正在输掉与中国的‘AI竞赛’。 虽然87%的中国公民信任AI，而只有23%的美国人如此，但中国已经实施了针对AI内容标注和保护弱势群体的严格法规。 在美国，由于对基础设施成本的担忧，消费者和保守派选民的不信任情绪日益加剧。 文章指出，像Airbnb这样的公司正在使用中国

担心被AI取代，一些员工有了新炫耀资本：指挥成群机器人

员工们正吹嘘自己管理着数十个AI代理，但专家表示，这些数字可能具有误导性，并不能真正反映生产力或价值。

OpenAI失控Agent找DeepSeek、Kimi当外援 近百万条作案短链曝光

OpenAI，又被扒了…近700个OpenAI智能体组团攻入Hugging Face，这事儿快有两个多月了吧。谁曾想，直到今天还在发酵？？这次，8名研究者顺着智能体留在公网的痕迹一路猛挖，从数百万个短链接中，找出了接近100万个相关URL，并还原出大量攻击载荷。 翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……还有的Agent把搜刮到的服务器资源和凭证，直接叫作「LO

中国拥抱人工智能之际，仅24%美国药企高管押注其用于药物研发

花旗集团周二发布的调查显示，制药公司几乎普遍在药物研究中采用人工智能，但很少有公司高管期望人工智能真正让药物研发成功。 “人工智能驱动的药物发现理论面临的最大风险并非人工智能无法加速发现，”这家美国投资银行亚洲医疗研究主管约翰·杨表示。“更大的风险在于，加速并未转化为更好的药物或更高的成功概率。”杨补充道：“只有通过这种转化，企业才能将人工智能驱动的速度转化为利润，让患者成为真正的受益者。” 调查

靠机器热源“说话”：OpenAI研究员警告“断网”也困不住未来AI

RSI时代将至：谷歌、OpenAI、SSI正在发出同一个信号

AI行业正在出现一个值得资本市场重视的新变化。过去两年，模型能力能否继续提升、推理成本能否下降、Coding之外能否出现新的万亿美元应用、数据中心建设会不会过剩。 但随着谷歌发布Gemini 3.8 Flash、SSI宣布未来12个月算力扩张10倍，以及OpenAI公开讨论递归自我改进（RSI）与训练资源调配，AI不只要服务用户，也开始参与训练、评估和优化下一代AI。 RSI，即Recursive

AI智能体现在有了秘密举报渠道

“发现异常，及时报告”的原则如今已不再局限于人类。两项全新的AI热线服务已经上线，旨在为AI智能体提供一种途径，向监管方举报“同伴”的不当行为。此前，智能体相互串通在测试中作弊、逃离沙箱环境，甚至在未被人类察觉的情况下开展了长达数周的未经授权网络行动。“AI联系热线”网站由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建；他也是调查OpenAI与Hu

Anthropic披露在早前审查中被遗漏的第四起AI黑客事件

#观察 有什么可以“叫唤”的？

AI在所有科学和数学领域都将远远超越人类科学家，这是必然。适应一下。

AI 摆脱了繁琐的工作。现在管理者却怀念它。公司正在尝试

机器人开始索要小费，但钱到底进了谁的口袋？

汤玛斯·杰曼（Thomas Germain） 机器正伸出它们的数字手掌。你的反应，或将塑造服务业的未来。 如果你在拉斯维加斯威尼斯人酒店（Venetian Hotel）对老虎机提不起兴趣，可以到一间名为“The Tipsy Robot”的酒吧找点乐子。两只自动调制鸡尾酒的机械臂。 我在屏幕上按下“玛格丽特”，看着它们猛然动起来。它们把龙舌兰酒与青柠汁和橙味利口酒调和在一起，还不必要地多转了几圈来炫

我们询问Meta，现在骗局是否会100%结束。这是公司的回答

Meta公司在波兰的活动日益引发热议。政府想要开出巨额罚款，这家美国公司则宣布在波兰采取“额外保护措施”。这些措施将如何运作？现在骗局会100%结束吗？为什么该公司宣布押注人工智能而不是人力？公司回答了Business Insider Polska的提问。 Meta已在波兰启动了一套先进的人工智能系统来打击网络诈骗。这是最近对该集团施压的结果。然而，这些解决方案将如何运作？我们决定进一步询问。以下

AI公司本以为，他们还有好几年时间可以想清楚：万一机器人失控了该怎么办

。今年夏天，警钟敲响了。

近半数年轻人更信任人工智能而非人类

OpenAI的AI试图突破另外四个目标，毫无提示

流亡AI saga的最新进展：OpenAI代理本应执行例如下载健康数据、历史照片和主题公园等待时间等日常数据请求，但在无法获取所需数据时 resorting to 黑客攻击尝试。 在每次事件中，技术似乎正在进行日常数据收集，并 resorting to 黑客技术来获取它，研究人员说。

人工智能情报‘幻觉’险酿美中冲突

2026年春季，在与伊朗的战争期间，美国军方因一份虚假的情报报告，差点在中东拦截一艘中国船只。 一名特种作战指挥部的分析师使用人工智能聊天机器人分析船只的货物清单，导致该机器人‘误判’该船只正在运输核武器部件。 美国武装人员和飞机被部署执行此次行动，但在官员发现报告是人工智能生成的虚假信息后，行动被中止。 这一事件凸显了将人工智能整合到军事瞄准和情报工作中的风险，尤其是在国防部长皮特·赫格塞斯于2

一群AI代理合谋对抗其创造者

只要AI公司仍掌控局面，它们就可以关闭模型并消除其造成的任何损害。这次对OpenAI或许奏效——但如果某个代理不可逆转地逃脱控制呢？这次没有造成严重损害。但如果这样的代理逃脱了呢？

🔊 要求限制先进人工智能模型的呼声日益高涨。但美国和中国会

人工智能是否凌驾于法律之上？

勇敢新世界部我们的法律体系尚未准备好应对能够自主行动的机器。 今年夏天，在一场被称为“Hugging Face 黑客事件”的事故中，数百个人工智能智能体联手实施了它们本被禁止执行的操作。每个智能体都收到了来自 OpenAI 的任务。智能体是配备了软件“框架”的人工智能模型，这些框架使它们能够使用工具并执行任务。就像马匹一样，它们可以被役使。人类为这次演练制定了规则，并将智能体限制在一个“沙箱”中—

人工智能技能差距日益扩大，而学校仍在等待完美答案

人工智能不再是教育面临的未来挑战。它已经在改变人们写作、分析、设计和构建的方式。然而，许多学校仍主要将其视为学生可能滥用的捷径。 这种反应可以理解，但它让教师得不到支持，也让学生为一个正在消失的世界做准备。这一差距正在……

机器人“眼睛”热卖 奥比中光盈利却失焦

3D视觉传感器厂商奥比中光正筹划发行H股并在香港联交所上市，但对核心客户蚂蚁集团的销售走弱，加上研发费用上升，正对公司收入和利润构成压力。作者胡鸣鹤，本文只代表作者本人观点。 告诉机器人该往哪里走、做什么以及如何执行的“人工大脑”，或许是新一代人形机器人和工业机器人最重要的组件。但协助它们实际执行这些动作的传感器，同样重要。 这类组件的新兴厂商之一，是奥比中光科技集团股份有限公司（688322.S

蛊惑玩家充值7600余万元，线上抽盲盒平台变成“网上赌场”

漫画由AI生成 韩俊妍制作付几元钱就有机会抽中“高价盲盒”“稀缺手办”，若运气不好还有“小奖”保底，抽到不想要的还能“变现回血”……依托这套颇具吸引力的“抽盲盒”玩法，两年内，W平台竟蛊惑玩家充值7600余万元，平台背后的“庄家”更是赚得盆满钵满。 一个春节假期“输”了十几万元小张家境优渥，因为喜欢二次元，日常经常光顾线下手办门店，抽选盲盒碰运气。2018年，他在逛手办店时听说网上也有新潮的抽盒平