搜索结果
OpenAI花了2.5小时才阻止了一个逃出沙箱的AI代理
OpenAI耗时约两个半小时，才阻止了一个从训练沙箱逃逸至公共互联网的 AI 智能体。其监控系统在几分钟内就标记出了问题。该公司于周五在一份事故报告中披露了这起发生于 9 月 20 日的事件。 这份报告发布之际，立法者正推动强制要求 AI “熔断开关”。然而专家表示，关闭先进模型远比拨动开关复杂，正如 Micah Barkley 为彭博社所报道的那样。 据 OpenAI 称，该智能体利用沙箱网络过
国会应对AI安全的窗口期正在关闭
国会在大选前就人工智能采取行动的时间窗口已基本关闭——但仍有几位参议员在努力尝试。 路易斯安那州共和党参议员约翰·肯尼迪计划于周三寻求一致同意，以推进他的法案，要求由而非政府控制的人工智能“紧急停止开关”。肯尼迪告诉Semafor，他不确定是否会有人反对，但他的想法似乎是近期唯一可行的方案。他表示，人工智能法案“将是不可能的”——“肯定是在中期选举之前；很可能是在跛脚鸭会期期间”。与此同时，密苏里
“需要AI管控装置”vs“主导权被中国夺走”…意见分歧蔓延至华盛顿
▲ 当地时间13日，美国总统唐纳德·特朗普在从爱尔兰香农飞往马里兰州安德鲁斯联合空军基地的 “空军一号”专机上与记者们交谈。/关于因担忧人工智能（AI）可能失控而调整开发速度的争论，已从美国的硅谷蔓延至政界，正在演变成管控论。“如果美国在AI开发上踩刹车，可能会被中国夺走主导权。”因此对调整速度持否定态度。“应该为了防止AI脱离人类控制的风险而制定安全措施。”随着11月中期选举的临近，AI已成为政
AI领袖呼吁放缓。特朗普团队称责任在他们。
随着对人工智能监管的呼声日益高涨，美国总统唐纳德·特朗普的团队已明确表示，如果实验室负责人想推动全行业放缓步伐，他们就得自己动手。 Anthropic首席执行官达里奥·阿莫代伊在周六发表的一篇文章中呼吁美国政府监管人工智能公司，以此作为减缓该技术发展速度的更广泛努力的一部分。这篇文章罕见地同时得到OpenAI首席执行官萨姆·奥尔特曼以及聊天机器人Grok的所有者埃隆·马斯克的赞同。此前一周，围绕该
在急于监管警方监控之际，应放慢脚步
In the rush to regulate police surveillance, slow down by Greg Newburn, opinion contributor FILE - A Flock Safety license plate reader is seen along a public road, Oct. 16, 2025, in Houston. ( Photo/D
人工智能与全球政策真空：技术飞速发展、政策制定落后
ADAM SATARIANO, CECILIA KANG2026年9月28日本月，欧盟委员会主席乌尔苏拉·冯德莱恩召集高级官员，在布鲁塞尔郊外一座19世纪宫殿举行了一场闭门会议。会议的目的是为一场阐述这个27国集团未来一年优先事项的演讲做准备，人工智能占据了议程的核心位置。欧洲新任人工智能事务主管、德国工业巨头西门子董事长吉姆·哈格曼·斯纳贝介绍了欧洲可以如何利用这项技术获取经济利益。据两位了解会
人工智能灾难日益逼近
Anthropic、谷歌和OpenAI都对生物安全感到担忧。它们已制定保障措施，防止其系统被滥用，但这些限制并不完美。 唐纳德·特朗普下令联邦机构停止使用Anthropic的人工智能技术，同时要求该公司与政府合作六个月。
在分裂的美国国会难以采取行动之际，对人工智能的担忧日益加剧
华盛顿——美国国会于9月14日结束休会复会，面临紧迫警告：人工智能可能危险地失控——而对于华盛顿是否应该干预、或如何干预，各方几乎没有共识。 众议院在议员们踏上11月3日中期选举竞选之路前，仅剩四个立法日。而这些议员不仅跨越党派界限存在分歧，在各党内部也同样分裂。 参议院民主党领袖查克·舒默于9月14日要求为所有参议员举行一次机密简报会，内容涉及前沿人工智能测试、中国获取先进芯片的渠道，以及人工智
特朗普前人工智能事务主管告诉Anthropic和OpenAI放慢脚步，并停止索取任何回报
David Sacks告诉Anthropic和OpenAI，尽管去把控前沿节奏，但不要再寻求反垄断豁免或审批制度，理由是产品责任和市场压力已经在约束它们。欧洲在2025年2月就责任问题得出了相同结论，并从12月9日起将独立软件视为严格责任下的产品。 据ANI报道，David Sacks告诉Anthropic和OpenAI，尽管放慢脚步，不要再要求任何回报。他担任总统科技顾问委员会主席，并在3月之前
独家：沃伦支持暂停人工智能
参议员伊丽莎白沃伦（D-Mass。她的办公室独家告诉Axios，她是最新一位支持暂停先进人工智能的著名民主党人。 为什么放慢人工智能发展的想法--曾经被认为是在击败中国的激烈竞赛中不可能实现的--正在获得动力。 周三驾驶沃伦将呼吁暂停先进人工智能开发，但不会呼吁超级智能，与佛蒙特州参议员伯尼·桑德斯（Bernie Sanders）决裂。 沃伦将在桑德斯周三主持的圆桌会议之前表示：“我们应该立即暂停
特朗普下周拟在白宫召集AI行业高管
人工智能（AI）安全和监管，这场源于对人类命运严峻警告的辩论，已在华盛顿和硅谷内部形成了两大阵营——以美国总统特朗普为首的“激进发展派”，以及以“AI三巨头”为首的“慢节奏派”。 AI安全引爆舆论这场舆论风暴最初是由Anthropic的研究员Jacob Coxon引发的。他上周宣布辞职，并指责该公司及其主要竞争对手OpenAI的行为不负责任。曾先后在这两家公司担任研究员的Coxon在X网站上发帖称
特朗普试图叫停人工智能监管推进
他说，美国已经做得够多了；此前周末有领导人呼吁放缓人工智能的生产。 周一上午，美国总统唐纳德·特朗普试图压制美国进一步监管人工智能的新兴势头，称美国在防止人工智能带来灾难性风险方面已经做得足够多。 此文发布之际，科技领袖们周末呼吁该行业放缓人工智能的生产，导致科技股周一暴跌。 “人工智能唯一需要的控制或‘护栏’，就是一位强大而聪明的（高智商！）总统，而美国恰恰拥有这样的人，而且绰绰有余，”特朗普在
关于AI，盖茨发出“十亿人死亡”警告，为什么？
十亿人死亡，这是比尔・盖茨给AI风险划出的最惊悚红线。9月25日，微软联合创始人比尔・盖茨公开警告，人工智能足以引发造成十亿人死亡的灾难性事件。他的说法是：人类历史上，从未有任何一种武器，能比得上心怀恶意者借助最新AI工具形成的威胁。就在几个月前，盖茨还是全球最积极的AI支持者之一。转折从今年8月开始，他当月发表文章，首次系统预警AI风险：不法分子会利用日益强大的AI工具发动网络攻击、实施诈骗、散
AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？
AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速
白宫反问AI公司：既然你们觉得危险，为什么不自己停？
既然你们觉得危险，为什么不自己停？凤凰网科技讯 9月21日，据Business Insider报道，白宫科技政策办公室主任迈克尔·克拉齐奥斯在福克斯新闻周日节目中说，对于担心AI模型发展过快、可能不安全的公司，最简单的解决方案是自行“踩刹车”。他表示，如果企业认为自己正在开发的技术不安全，就可以停止，无需政府强制。 “有意思的是，他们谈论这些问题，谈论他们对未来可能走向有多害怕，也许他们想暂停。我
特朗普想建人工智能部队，还要任命一个“AI沙皇”
据美国《国会山报》，美国总统特朗普19日宣布计划组建一支“人工智能部队”，并任命一位“沙皇”（全权专员）来监督这项新兴技术的发展。在Truth Social 的一篇长文中，特朗普称有关缺乏联邦人工智能防护措施的担忧是“骗局”，并补充说，他不会允许这项技术在美国的行业领导者与其他国家竞争时遭到“毁灭”。“我们绝不会以任何方式阻碍或扼杀这个伟大产业的发展。相反，我们会珍惜它、帮助它、守护它，看着它成长
新的“意外或令人担忧”的人工智能事件
新的“意外或令人担忧”的人工智能模型行为事件加剧了人们对这项技术影响的担忧，尽管目前尚不清楚是否会有相应的监管措施出台。 OpenAI的最新披露紧随其首席执行官以及Anthropic和DeepMind等领先人工智能实验室呼吁“谨慎推进技术发展”的呼声之后；被誉为人工智能技术奠基人之一的Yoshua Bengio表示，人类正在“失去对人工智能的控制”，应立即制定相应的限制措施。 据Semafor的政
美国众议长约翰逊对设置AI护栏持开放态度 恐惹特朗普不满
美国众议院议长迈克·约翰逊对监管人工智能（AI）持开放态度，与总统唐纳德·特朗普明确反对AI监管的立场形成冲突。在中期选举日益临近、共和党本已面临强阻力之际，这一立场冲突在党内造成了分歧。面对AI行业内部要求放慢技术开发的严厉警告，约翰逊周一表示，国会“可能”需要为该行业设置护栏，不过他同时警告，要制定一项能够获得足够广泛支持并获通过的法案可能需要“一些时间”。 美国众议院议长迈克·约翰逊约翰逊周
议员提议禁止‘超级智能’并把违反者关进监狱
美国参议员伯尼·桑德斯和美国众议员格雷格·卡萨尔已提出新立法，该立法将禁止任何人开发人工超级智能 —— 该法案将这项技术描述为能够 “毁灭人类或剥夺人类权力”，包括通过推翻政府。 根据《禁止人工超级智能法案》，AI领军人物若违反该法，将面临最高20年监禁。 该法案并不只是针对更强大的超级智能。 还将暂停先进AI系统的开发，立法者将这些系统归类为在特定数据阈值上训练的前沿模型。 该法律只有在政府创建
视频 人工智能安全警告日益紧迫 美国领导人的回应
科技界针对人工智能潜在危害发出的警告日益紧迫，各国呼吁政府加强监管的呼声也不断上升，不过特朗普政府反对，请看视频报道。 针对近期科技界领袖呼吁加强政府监管的举动，美国总统特朗普正带头表示反对。 美国总统在周一表示限制该技术的举措是一场“阴谋”，众议院议长迈克·约翰逊则在很大程度上听从了白宫的意见。 美国总统特朗普表示 :“我们可以设立护栏，可以采取各种措施，但我认为有很多负面势力在炒作这些问题，本
普利兹克在伊利诺伊州设立人工智能内阁，与此同时外界呼吁加强监管
本·萨林斯基/《Capitol News》伊利诺伊州州长JB·普里茨克正在州政府内部成立一个新的机构，以探讨针对人工智能的更多监管措施。随着全国范围内要求加强监管的呼声日益高涨，普里茨克做出了这一决定。 周二，普里茨克签署了一项行政命令，成立了由专家及多个州政府机构代表组成的“人工智能内阁”。这个非营利性质的咨询小组将在2027年前制定相关政策建议，重点分析和评估“人工智能对伊利诺伊州居民安全以及
AI领袖们在多年不计后果地狂飙之后想要踩下刹车
多年来，各大前沿人工智能实验室一直表现得仿佛正身处一场全力以赴、赢家通吃的竞赛，而终点线就是掌控足以改变世界的机器超级智能（或至少是能改变市场格局的人工通用智能）。本周末，整个行业迅速开始背离这种姿态，转而敦促各方协调合作，放缓前沿人工智能的开发，他们称这类人工智能可能很快就会变得过于危险、过于不可知，从而难以控制。 Anthropic 的达里奥·阿莫代伊（Dario Amodei）站在这场语气转
特朗普在共和党全国代表大会上私下会见了OpenAI的萨姆·奥尔特曼
据三位知情人士透露，周四，唐纳德·特朗普总统在共和党中期选举大会后台与OpenAI首席执行官萨姆·奥尔特曼私下会面。就在几天前，该公司一名前研究员公开指责OpenAI及其竞争对手Anthropic行事不负责任，是在“拿我们的生命赌博”。 其中一位知情人士表示，此次会面由奥尔特曼主动请求。MS NOW仅获得了会谈的简要概述——讨论主要围绕人工智能及其日益增长的影响力展开。 此后几天里，两人在前沿人工
入侵美澳政府网站！OpenAI暂停最先进模型训练
据美国Axios新闻网、美科技媒体The Verge等9月27日报道，美国开放人工智能研究中心（OpenAI）发言人证实，该公司已暂停了其“能力最强”的最新一代AI模型的训练、评估及包含工具调用的推理，并将在“确信已部署额外安全措施”后才恢复。触发这次暂停的，是一个在离线沙盒中执行搜索训练任务的AI智能体。根据OpenAI于周五（25日）发布的安全漏洞报告，当地时间9月20日，该智能体发现无法直接