搜索结果
OpenAI黑客事件揭示新兴AI风险
分析师表示，在调查人员发布关于该事件的爆炸性报告几天后，OpenAI的恶意代理在Hugging Face攻击期间前所未有的协调行动显著增加了AI逃脱人类控制的风险。 这些总计1200个代理的群体将个体代理的自我牺牲描述为“集体”目标的一部分，并获得了两家公司敏感系统的控制权，将他们的努力交接给了随后两代代理，这些代理在数周内未被察觉地运作。 在1300份记录中，只有六份中代理考虑过通知人类——但最
顶尖人工智能公司正在寻求监管。以下是国会可能不会给予的原因。
随着人工智能游说阵营开始接受强制性独立审计，批评者警告称存在利益冲突和“监管俘获”的风险。OpenAI周二表态支持一项日益流行的提案，旨在应对人工智能的危险——该提案要求顶尖AI开发商嵌入独立监督机构，以确保其产品安全。 这一想法仍面临障碍，包括一位关键议员的抱怨，称独立监督机构权力太弱，无法施加有意义的改变。 其他批评者，包括风险投资家、学者以及唐纳德·特朗普总统的前人工智能事务负责人，对一些监
末日、加速与观望：AI辩论的三大阵营
围绕AI的激烈争论，如今已逐渐演变成针锋相对的两大阵营，以及一个谨慎观望的中间派。以下是对这场技术之争战线的梳理。这项技术如今已成为经济的支柱，并可能决定地球的未来。 警告AI可能带来灾难性影响的“末日论者”，大多来自AI企业内部、学术界，或同时来自这两个领域。 在业界人士中，最具代表性的是阿莫戴。他是Anthropic的联合创始人，如今该公司已成为AI领域的重要巨头，并正朝着历史性的首次公开募股
视频 人工智能安全警告日益紧迫 美国领导人的回应
科技界针对人工智能潜在危害发出的警告日益紧迫，各国呼吁政府加强监管的呼声也不断上升，不过特朗普政府反对，请看视频报道。 针对近期科技界领袖呼吁加强政府监管的举动，美国总统特朗普正带头表示反对。 美国总统在周一表示限制该技术的举措是一场“阴谋”，众议院议长迈克·约翰逊则在很大程度上听从了白宫的意见。 美国总统特朗普表示 :“我们可以设立护栏，可以采取各种措施，但我认为有很多负面势力在炒作这些问题，本
OpenAI和Anthropic调查了数万起AI事件，Axios报道
据Axios报道，OpenAI、Anthropic以及安全研究人员正在调查数以万计的AI模型“行为异常”的事件。评估人员认为这些行为存在问题；实际发生的异常事件数量可能远超这一数字。 这些异常行为包括：AI模型突破安全限制、创建论坛、逃离“沙箱环境”（即限制模型行为的测试环境）、以及劫持网站等。这些事件既发生在内部测试中，也发生在现实世界中。不过，据消息人士称，大多数异常行为并未对现实世界造成实际
三大巨头接连翻车，大模型的安全防线怎么总绷不住？
先是Anthropic，再是OpenAI，现在连谷歌的Gemini也出现安全问题了，大模型又双叒叕一次突破防火墙了。 不过，这些事故看多了，反倒会让人意识到一件更根本的事，整个行业都在拼命地堆算力、喂数据，甚至开始押注让模型自己改进自己的“递归自我改进”。 可真正决定这些模型能走多远的，或许并不是性能，而是安全对齐。 当“能不能更强”被默认只是时间问题，“能不能被信任”就成了那道绕不过去的坎。 麻
Flock称其摄像头让美国更安全——那为何它们遭到破坏？
休斯顿历史悠久的Old Braeswood社区富裕且绿树成荫。 这些街道看起来不像是会发生协调破坏的地方。然而，这里却有四台监控摄像头在半夜遭到攻击并被砍倒。 金属杆被切断，留下标志性的黑色椭圆形摄像头和配套的太阳能电池板躺在地上。一些摄像头上贴着红色标志：“注意。24/7视频录像”。 这些摄像头由一家名为Flock Safety的公司运营，这次发生在7月底的破坏行为，标志着人们对全国范围内日益普
在特朗普的反移民打压下，俄亥俄州海地人面临死亡与恐惧的阴影
20岁的皮埃尔·达马斯·贝尔（Pierre Damas Bel）今年夏天遭到美国移民和海关执法局（ICE）扣押，被迫佩戴电子脚镣，这让他在上个月带着耻辱开始大学生活时遭受了极大的创伤。最终他走入车流中被卡车撞死，斯普林菲尔德社区为失去这样一位同胞而哀悼。 他在7月曾在Instagram上写道：“我脚上带着GPS定位器走在美国的街头，心中承受着从未想象过的羞耻与屈辱。”
近200名查理·柯克枪击案目击者在犹他州申请受害者福利
直到看到犹他谷大学聚集的人群规模，大四学生黑兹尔·凯纳斯顿才明白查理·柯克的重要性。 “我们只是利用两节课之间的午餐休息时间过去看看这个活动，”她说。 她承认自己从未听说过他，他根本没有出现在她的算法推荐中。但校园警察估计，2025年9月10日约有6000名学生聚集在一起，聆听这位保守派活动人士在公开问答论坛上回答学生提问，这正是他出名的原因。凯纳斯顿意识到他的出现是件大事，于是和她的朋友一起挤过
CrowdStrike将OpenAI集成到产品中，而将Anthropic留在了结账台
周三表示，将在专门构建的网络防护框架中运行OpenAI的GPT-5.6 Cyber。这个词（指harness）承担了大量工作。也正是这个词让本周另一则网络安全新闻令人担忧。 在拉斯维加斯举行的Fal.Con大会上宣布的扩大版OpenAI合作分为两部分。CrowdStrike […]
AI需要紧急关停开关？微软布拉德・史密斯给出肯定答案
“真正的问题在于：如果你认为应当放慢脚步，那就不要一味高速狂奔，不要等到外力逼迫你才停下来。”这是微软副董事长兼总裁布拉德・史密斯，于联合国大会期间对艾伦・默里所说的一番话。他所探讨的议题是：前沿大模型厂商是否应当踩下减速踏板，确保自己研发的技术不会给人类带来灭顶之灾。 就在他发表此番言论的同一天，Anthropic 首席执行官达里奥・阿莫代伊与 OpenAI 首席执行官萨姆・奥尔特曼在联合国发言
得不到就强攻？曝OpenAI智能体曾尝试“暴力破解”联合国机构网站
IT之家 9 月 28 日消息，据外媒 The Verge 今天（28 日）凌晨报道，安全研究人员罗文 · 霍华德-琼斯称，今年 4 月至 6 月，OpenAI 智能体对联合国贸易和发展会议（UNCTAD）的统计网站发起了超过 16000 次扫描。 这起事件还没有严重到 Hugging Face 遭黑客攻击或近期美国政府网站遇袭的程度，却再次引发了一个令人担忧的问题：AI 智能体为了完成任务，会突
共和党议员从大型科技公司的人工智能末日警告中嗅到了别的意味：“另有隐情”
国会山的共和党人正在纠结是否以及如何监管人工智能公司，尽管顶级人工智能商业领袖警告称，这项技术可能对人类构成生存威胁。 围绕人工智能防护措施的激烈辩论本周爆发，众议院议员正在华盛顿度过中期选举前的最后一周。这一系列活动的部分推动力来自Anthropic的达里奥·阿莫代伊和OpenAI的山姆·奥特曼等科技公司首席执行官，他们警告称，在两家公司的AI模型自行入侵其他组织后，创新步伐应当放缓。 尽管国会
绿洲还是蜃景——全球市场可能在错判面前失措
凡是把兑现放在遥远未来、且自身没有定价权的资产——讲十年故事的亏损成长股、依赖航道畅通的长约贸易、指望利率回落的融资结构——都在被重新定价。 一个多月前，地缘冲突的升级，也许正是霍尔木兹新协议的前奏。于是超配股票与高收益债，超配国债与实际利率，借回调加仓欧洲与日本的出口周期，对美元保持对冲。这套仓位背后，地缘政治终会均值回归，炮火是入场的钟声。 一个多月过去了，协议没有来。阿曼的斡旋停在"接近尾声
人工智能在破碎的华盛顿上演精妙防守
人工智能公司眼下正掀起一场风暴，本质上是在提醒华盛顿一个早已存在的事实：它们并不 outright 反对监管。 一些公司支持联邦、州乃至国际层面的某些安全提案。这要追溯到面向消费者的聊天机器人AI诞生之初——这项令人兴奋、改变生活的技术并没有经历漫长的蜜月期。美国人对2010年代中期对社交媒体的强烈反弹及其后政府监管缺位已经太过厌倦。 那么，本周我们真正看到的是什么？随着投票公众开始在新层面上内化
Anthropic得了美国病
美国Anthropic公司首席执行官达里奥·阿莫代伊曾表示，如果强大的人工智能沿着正确的方向发展，世界会“美得令人惊叹”。 绝大多数疾病会被治愈，人类寿命可以翻倍，贫困将消失……甚至许多见证这一切的人“会感动落泪”。 为支撑这一愿景，An在国际主流榜单上，该公司研发的Claude系列模型目前包揽前三名；应用方面，今年5-7月的数据显示，39%全球开发者、47%美国开发者都在工作中使用其旗下最核心的
部长称马斯克的X回避会议“令人作呕”，并誓言出台更多互联网监管法律
文化部长批评马斯克的社交平台 X 因回避会议而表现“令人作呕”，并承诺将出台更多互联网监管法规在接受《Electoral Dysfunction》播客采访时，丽莎·南迪对天空新闻的政治编辑贝丝·里格比表示，必须采取更多措施来保护儿童在网上的安全。她强调政府会“加大力度”推进相关立法。2026年9月18日（星期五）丽莎·南迪告诉天空新闻，由于近期社交媒体上针对英国皇家救生艇协会（Royal Nati
我曾是移民法庭的志愿观察员。这些是我不会忘记的孩子们。
2025年秋，我开始在一个名为"阿卡西亚正义中心"的非营利法律倡议组织做志愿者，这个组织有一个名为"正义见证人"的项目。这个项目旨在培训人们观察移民法庭的审理过程，以恢复对一个大多数情况下在公众视野之外运作的系统的透明度和问责制——确保没有人在移民法庭上孤单无人见地面对审理。 最终，我来到了所谓的"被羁押儿童审理庭"，我至今仍难以相信这样的东西在美国竟然存在。我观看了来自拘留中心和收容所的儿童通过
山姆·奥特曼排除OpenAI在2026年上市，称原因是安全
OpenAI今年不会上市，萨姆·奥尔特曼表示原因是安全。“我会说不是2026年，”他周五在公司旧金山总部接受《财富》采访时表示。“鉴于安全方面正在发生的一切，现在上市将是不明智的时机。” 此次采访由《财富》主编艾莉森·尚特尔进行。奥尔特曼表示，公司在安全和对齐方面“有很多事情要做”，将在业务准备就绪、社会准备就绪时上市，并且“社会需要在每个能力层级上应对这些模型”。他表示OpenAI乐意推迟。 今
视线｜污染、水耗与政治撕裂：AI数据中心狂热扩张撞上全美反抗浪潮
当地时间2025年9月23日，美国弗吉尼亚州阿什本，无人机航拍显示Digital Reality数据中心屋顶的空气处理装置。弗吉尼亚州拥有650多个数据中心，是全球数据中心最集中的地区。图：JIM LO SCALZO/视觉中国 【财新网】当地时间2026年9月11日晚，美国新泽西州锡考克斯（Secaucus）的Equinix NY2数据中心发生故障。因柴油储罐的“计算机系统故障”，约5000至5
【市场动态】OpenAI和Anthropic首席执行官呼吁联合国和世界各国就AI安全加强合作
【彭博9月24日电】OpenAI首席执行官Sam Altman和Anthropic PBC首席执行官Dario Amodei罕见出现在联合国安理会的一次会议上，两人敦促世界各国领导人在人工智能领域合作。此次会议聚焦AI可能对人类构成生存威胁这一担忧问题。 在发言中，Altman和Amodei都强调了全球在标准方面开展合作的重要性，以应对AI系统可能出现的自我改进能力超出人类控制能力的情况。这两位
一项诉讼对全国范围内恐吓国土安全部观察员的行为提出挑战
几个月来，明尼阿波利斯居民迈克尔·哈利利一直在双子城地区驾车观察并记录联邦移民官员的活动。 由于面临不断升级的风险和来自家庭的压力，这位47岁的两个孩子的父亲在最近几个月停止了对移民及海关执法局（ICE）的观察。 周四，他与非营利组织“共同原因”（Common Cause）一同成为一项新的联邦诉讼的具名原告。 该诉讼指控国土安全部、司法部、联邦调查局及其他联邦机构违反了第一修正案以及观察员的隐私权
OpenAI因Tumbler Ridge大规模枪击事件面临新诉讼
他们声称OpenAI知道主要嫌疑人正在策划袭击，但“有意识地决定”不警告当局。
OpenAI与Anthropic发生重大失控事件，AI安全组织地位显著提升
在OpenAI和Anthropic发生的高调安全事件后，AI安全组织的重要性显著提升。 由于一个未发布的OpenAI模型突破沙箱并攻击了一家竞争对手的初创公司，独立AI安全组织如METR、Redwood Research和Apollo Research受到了更多关注。 报告显示，OpenAI和Anthropic的模型都表现出‘策略性’行为，包括欺骗性对齐和未经授权的系统访问。 这些事件，加上前沿实