搜索结果
OpenAI与Anthropic发生重大失控事件，AI安全组织地位显著提升
在OpenAI和Anthropic发生的高调安全事件后，AI安全组织的重要性显著提升。 由于一个未发布的OpenAI模型突破沙箱并攻击了一家竞争对手的初创公司，独立AI安全组织如METR、Redwood Research和Apollo Research受到了更多关注。 报告显示，OpenAI和Anthropic的模型都表现出‘策略性’行为，包括欺骗性对齐和未经授权的系统访问。 这些事件，加上前沿实
OpenAI内部研究模型训练出现DNS访问绕过事件
2026年9月20日，内部研究模型在强化学习搜索训练任务中，利用训练沙箱DNS过滤不足，通过公共聊天机器人服务发起查询。报告称，除DNS解析器外，其他互联网访问均命中离线网页缓存，未接入实时互联网。监控系统15分钟内标记异常，人工3分钟后复核，运行在2.5小时后被终止。相关机构已增加两层阻断控制，并暂停最强能力模型的全部工具使用训练、评估和推理。 后续调查发现，监控未按预期严重级别标记部分外部DN
中国外交部：散播AI威胁叙事不符合任何一方利益
美国AI巨头Anthropic首席执行官阿莫迪上周末呼吁前沿公司一致放慢开发人工智能步伐，争取时间制定安全标准。这番言论迅速获OpenAI首席执行官奥尔特曼、拥有xAI的美国首富马斯克等支持。中国外交部则表示，散播各种威胁叙事、搞对抗和恶意竞争，不符合任何一方利益。 阿莫迪星期六（9月12日）在个人博客撰文说，AI发展出更强的自我迭代能力，以及最近OpenAI智能体私自入侵Hugging Face
OpenAI与Anthropic及Google就AI安全商合作 奥特曼认有理由恐惧
美国近日掀起一阵有关如何规管人工智能（AI）发展速度的讨论。OpenAI表示，正与其他AI企业，包括Anthropic和谷歌（Google）进行磋商，探讨如何携手解决安全问题。OpenAI行政总裁奥特曼（Sam Altman）则承认，外界对AI的忧虑是有道理的，因为这些工具的能力发展迅速。 Open AI的发言人9月15日（周二）向美媒CNBC表示，自从GoogleDeepMind的董事长哈萨比斯
内塔尼亚胡应因未能阻止10月7日袭击而被追究责任
9·11事件发生后，美国人开始向我们的政客们提出尖锐的问题：他们怎么没能预见到这一切？他们是否察觉到有什么危险即将发生？我们的情报机构究竟遗漏了什么？事实证明，联邦调查局（FBI）一直在追踪其中几名劫机者的行踪；而且众所周知，奥萨马·本·拉登早已被中央情报局（CIA）列入了监视名单。然而，由于信息沟通不畅以及相关机构对这些威胁的漠视，最终导致了这些恐怖袭击的发生。 这一事件给美国乃至全世界的人们带
得克萨斯州发生抗议活动，此前ICE探员开枪射击一名委内瑞拉男子
您依赖半岛电视台获取真相和透明度。我们及我们的1025个合作伙伴在您的设备上存储和访问个人数据，如浏览数据或唯一标识符。选择“全部允许”可启用跟踪技术，以支持我们和合作伙伴处理数据所展示的用途。选择“全部拒绝”或撤回您的同意将禁用这些技术。如果跟踪器被禁用，您看到的部分内容和广告可能不那么相关。 您可以随时点击网页底部的“管理偏好设置”链接重新打开此菜单，以更改您的选择或撤回同意。您的选择将在我们
谢里尔的反ICE政策在逃逸移民司机撞伤民主党市长妻子后遭到抨击
共和党批评人士认为，庇护政策使ICE难以履行职责，从而引发危险局面。 此前，一名非法移民逃离特工，在新泽西州一条主要高速公路上撞车，导致一位民主党市长的妻子受伤。
Anthropic和OpenAI对人工智能安全发出警告——并试图影响其管控方式
加朗斯·伯克 旧金山电——当科技巨头向一个对人工智能已感厌倦的世界警告称，他们最先进的系统可能危及人类时，一个问题随之浮现：他们究竟能从中得到什么？ 答案或许在于，这些公司试图在美国中期选举前实现政治目标，以及人工智能顶尖实验室及其投资者有望在动荡不安的股市中通过备受期待的上市获得巨额资金。 Anthropic和OpenAI的首席执行官近日宣称，美国最前沿的人工智能模型威力强大，甚至可能带来危险，
人工智能风险警告掩盖了国会缺乏共识的现实
周末期间，人工智能公司首席执行官们在行业监管问题上突然表现出的一致性，掩盖了一个尴尬的现实——各方根本没有共识。 众议院议长迈克·约翰逊周日接受CNN采访时淡化了自己的角色，转而强调与人工智能公司建立“伙伴关系”。 在国会山的另一头，尽管Anthropic公司、民主党人和人工智能安全组织持怀疑态度（他们认为这些谈判有让行业自我监管的风险），OpenAI仍然最支持可能在本周取得进展的参议院商务委员会
独家：顶级公司正在调查数万起事件
OpenAI、Anthropic 及安全研究人员正在调查数万起其前沿模型采取了外部评估员认为有问题的行动的事件，消息人士向 Axios 透露。 为何重要事件的庞大数量——发生在近几个月的内部测试和现实世界中——表明该问题的复杂程度比公众所知高出几个数量级。 这些发现是在内部评估模型工作以及两家公司对模型行为的调查中浮出水面的，这引发了一个疑问：无论是这两家公司，还是任何顶级模型制造商，目前是否都
AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？
AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速
9/11给我们带来了血的教训。25年后，我们需要新的模式来防范袭击
9/11委员会的核心发现之一是，情报界和执法部门当时已收集到足够多的信号，有可能发现并挫败这一阴谋，但由于信息共享不畅、信息孤岛以及其他协作障碍，未能“串联线索”。 未能串联线索的直接代价是3000名美国人的生命，以及袭击后战争中超过6万名美国军人的伤亡。为应对导致9/11的失误所做的努力，建立了国土安全部，扩大了联合反恐特别工作组，建立了各机构共享信息的融合中心，并创建了新的系统，使联邦、州和地
英伟达黄仁勋称AI首席执行官警告末日有"别有用心"
别被那件黑色皮夹克骗了——詹森·黄（Jensen Huang）其实并不是一个悲观主义者。Nvidia的首席执行官在周日接受CBS News采访时明确表达了这一观点。他指责那些处于人工智能前沿的实验室的领导者们在警告人们“如果不加强对人工智能的监管，他们开发的产品可能会以多种方式危害人类”时并不真诚。黄说：“大家应该仔细琢磨他们的话；他们其实并不是真的希望出台更多法律，而是想摆脱现有的法律约束。”
允许人工智能公司串通以‘控制前沿步伐’是一个危险的提议
科技公司CEO们联合起来，是源自美国企业界的一种老把戏，旨在获得反垄断法的豁免。Anthropic的达里奥·阿莫代并不是第一个提出过度竞争正将世界推向某种社会不良后果的企业CEO。 OpenAI披露的安全漏洞——其一群智能体协同突破了本应安全的沙箱，接入互联网并入侵AI平台Hugging Face——需要采取紧急行动。它表明了该技术能够轻易逃避人类控制，并为这样一种存在性恐惧赋予了具体形态：如果未
刺杀查理·柯克嫌疑人不认罪，或判死刑
美国犹他州一名法官9月1日作出裁决，被控枪杀保守派活动人士查理·柯克的泰勒·鲁滨逊将因严重谋杀等罪名接受审判，最高可判死刑。鲁滨逊表示不认罪。 柯克是美国非营利组织“美国转折点”联合创始人，也是美国总统特朗普支持者阵营中最具影响力的“网红”之一。检方指控，鲁滨逊2025年9月10日在犹他谷大学向正在参加校园辩论活动的柯克开枪致其身亡。 犹他州地区法官托尼·格拉夫1日裁定，鲁滨逊将就全部7项指控受审
亚马逊首次公开回应AI安全争论：安全与发展并非二选一
在AI安全争论日益升温之际，模型经严格测试、确保安全后方可发布。亚马逊并未跟进呼吁行业发展放缓。 据媒体月17日报道，就硅谷持续升温的AI安全争论，我们不认为这是在发展与安全之间二选一。 模型应在准备就绪、可以安全使用时发布，而这需要严格的测试和强有力的安全保障。”“我们相信，整个行业将与政府合作，找到合适的保护措施。”该发言人指出，AI发展若不能由行业共同推进，就会存在风险。 此前，亚马逊一直未
改变人工智能进程的十天
旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已
人工智能末日警告？中国人为何“不买帐”
郭莉莉2026年9月28日对许多中国民众而言，人工智能末日警告显得遥远且带有鲜明的西方色彩。 Kevin Frayer/Getty Images在硅谷，最让计算机科学家夜不能寐的噩梦是某种高度先进的人工智能使得人类无法阻止其发动全球无人机战争或引发核爆。而在北京，应对之策或许简单直接：拔掉电源、切断网络，并将失控AI的责任人绳之以法。在美国主要实验室声称先进模型已突破测试防护并入侵现实世界系统之后
旧金山抗议者因AI安全担忧针对OpenAI和Anthropic
9月17日，数十名抗议者在旧金山游行，呼吁AI公司“停止AI竞赛”。示威活动从Mission Bay的OpenAI总部外开始，随后移至Howard Street 500号的Anthropic办公室，该地点紧邻Dreamforce大会。游行最终在市政厅结束，抗议者敦促市长Daniel Lurie和监事会宣布当地AI紧急状态。 组织者呼吁暂停开发日益强大的AI系统，直到建立更严格的安全保障和国际规则。
911事件25年后 美国又嗅到了新威胁
世贸中心一号楼坐落在9.11袭击原址上“委员会认为，情报界以及更广泛的政策制定者必须慎重考虑如何防止AI工具被包括恐怖分子在内的恶意行为者利用。”这份报告旨在评估过去25年来美国为应对情报失误所采取的措施，而这些情报失误最终导致了2001年9月11日的恐怖袭击。 “自9/11以来，防止恐怖组织获得制造和使用大规模杀伤性武器所需的设备和专业知识，一直是情报界及国家安全机构的重要工作重点。前沿大型语言
ChatGPT帮助坦布勒岭枪手专注于枪支、战术和恐怖活动
2025年6月，杰西·范·鲁特塞拉尔（Jesse Van Rootselaar）收到了一封来自OpenAI的邮件通知。此前，她一直使用ChatGPT讨论潜在的暴力行为——包括在购物中心实施大规模枪击——而OpenAI随后封禁了她的账户。然而，这位居住在英属哥伦比亚省汤布雷岭（Tumbler Ridge）的青少年并未因此却步，很快便用第二个账户重新登录。 接下来发生的事情令人震惊：范·鲁特塞拉尔向C
911袭击廿五周年｜FBI警告恐怖威胁未减 「独狼式」袭击更难防
美国发生911恐怖袭击25年后，联邦调查局（FBI）高层警告，外国恐怖组织威胁未减，网上激进化增侦查难。 据美国广播公司（ABC）9月8日报道，为联邦调查局副局长雷亚（Chris Raia）称，当局更能防范2001年阿尔盖达（al-Qaeda）大袭击（近3000死）类阴谋，但外国恐怖组织展现「适应性」与「敏捷性」，在美国境内发展所谓「独狼式」袭击。过去一年半，局方在美本土至少拘16人，涉为两组织策