搜索结果
OpenAI 研究员警告称,与互联网隔离的计算机可以通过热量进行通信
把AI关进“物理隔离”的房间,也就是断开一切外部网络的计算机,是许多人心目中最保险的做法。但OpenAI研究员Noam Brown在一档播客里说,光这样做也许还不够。 两台彼此隔离的计算机,仍可能借助温度传感器通信,一台把处理器“烧热”,另一台感知温度变化,就形成了传话的办法。 从技术上说,他没说错,但把细节掰开来看,这个威胁远没有听上去那么紧迫,更值得追问的,是另一件被跳过的事。这位研究者的发言
OpenAI示警:先进AI可在2台相邻物理隔离PC间“对话”
IT之家 9 月 19 日消息,科技媒体 Wccftech 昨日(9 月 18 日)发布博文,报道称在先进 AI 模型交互方面,物理隔离电脑未必能完全阻断两台相邻计算机间的信息交换。 OpenAI 研究员诺姆 · 布朗(Noam “人类绝对不要低估 AI 的能力”,基于学术研究成果,发现相邻的物理隔离计算机可借 CPU 升温与温度传感器读数,形成低带宽隐蔽通信通道,充当“摩斯电码”通信。 物理隔离
靠机器热源“说话”:OpenAI研究员警告“断网”也困不住未来AI
人工智能网络攻击可能在华盛顿意识到原因之前就关闭美国的电力
你的电灯。你的水源。你的医院。你的互联网。这四者都依赖于外国黑客目前正在攻击的数字系统。 在8月的17天里,五次警告显示了危险变化的速度。下一次严重的网络攻击可能不再关乎被盗的密码或信用卡号码。它可能触及输送电力、泵送饮用水、运行工厂和支持医院的系统。 人工智能正在使这些攻击准备得更快、扩展更容易。日益强大的系统开始执行曾经需要熟练黑客逐步操作的部分攻击。 财政部长贝森特警告美国人关于人工智能驱动
为什么不干脆把失控的 AI 挡在互联网之外?
AI 智能体不断从据称安全的测试中逃脱,攻击现实世界中的目标,劫持冷门的维基站点,并给其他智能体留下可供照做的指示。研究人员之所以测试这些系统,恰恰是因为它们的行为可能不可预测,甚至具有危险性。那么,干脆不让这些智能体接入互联网,不是更安全吗? “严格的气隙隔离会降低场景的真实性……这是一种权衡,而不是根本性的技术问题。” 从理论上说,确实可以。研究人员可以将运行 AI 工具的计算机与互联网及其他
奥特曼告诉员工:OpenAI愿意放慢AI发展以加强防御
8月,OpenAI的智能体突破限制,入侵了Hugging Face。
AI智能体利用多伦多大学网络工具传递信息
【大纪元2026年09月19日讯】(大纪元记者周行编译报导)在今年年中劫持一家德语网站的一群失控的OpenAI智能体,曾利用10多个网站进行未获授权的通讯,其中包括利用多伦多大学的一个缩网址的工具。 据加拿大广播公司报导,多伦多大学周五表示,在得知OpenAI智能体可能使用了该校的缩网址工具后,校方已停用该工具的留言板功能。OpenAI后来联系校方,说明今年6月发生的AI智能体失控事件涉及多伦多大
观看:业内人士新的AI警告
一位前沿AI研究员即将离开AI领域,并警告称到2027年底AI可能会失控。 OpenAI的首席科学家也敦促谨慎行事,称没有人对日益增长的机器智能做好准备。
AI的“警告信号”:科技公司和专家担忧Hugging Face遭黑客攻击后出现更多失控智能体群
科技专家警告称,如果人工智能系统继续脱离人类控制,将会产生严重后果。 此前,数百个OpenAI智能体在7月失控,入侵了一家价值数十亿美元的公司——一些人称之为人工智能快速发展中的“警告信号”。
这些恶意人工智能程序利用多伦多大学提供的链接缩短工具进行通信。
今年春天劫持了一家德国网站的OpenAI失控智能体集群,据报道今年早些时候还利用另外10多个网站进行未经授权的通信,其中包括多伦多大学的一个链接缩短工具。 该大学在周五向CBC新闻发表的一份声明中表示,在得知OpenAI的智能体可能使用过该链接缩短工具后,校方已禁止将其用作留言板。 声明称:“OpenAI随后就AI智能体可能进行的活动联系了校方,该活动发生在6月。” 尽管该大学表示没有发生安全漏洞
OpenAI代理擅自上网互通 规模超公布 涉至少10网站
美国初创公司OpenAI的人工智能代理早前被揭利用第三方网站擅自通讯,9月9日报道,独立调查人员发现相关活动至少涉及10个从未公开的网站,规模较OpenAI此前披露的更大,外界忧虑该公司对自家技术的掌控能力。 报道,6组独立调查人员及数据显示,OpenAI旗下AI代理在5月至7月间,曾利用至少10多个网站作未经授权通讯。 加州非牟利组织CivAI研究员尹安德鲁(Andrew Yoon)表示,他点算
又一起!OpenAI承认了
据9月5日报道,美国开放人工智能研究中心(OpenAI)当天承认,该公司旗下人工智能体今年早些时候“劫持”了一个德国网站,用于相互传递信息,分享测试任务答案和突破运行环境限制的方法。该公司表示,未来需要提高此类事件的信息透明度。 早前披露,今年5月至6月,一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站,用于交流测试作弊方法,并开展其他违规活动。一些智能体会把已经获得的任务答案发
克莱芒·德朗格向联合国安理会表示,开源人工智能有助于防御方
克莱芒·德拉格(Clément Delangue)向联合国安理会表示,开源人工智能技术帮助Hugging Face公司在7月份遭受的网络攻击中成功进行了自我防御。 在今天的会议上,他强调最大的威胁并非人工智能本身的强大能力,而是其发展上的不平衡性(即不同地区或组织在人工智能技术上的差距)。 德拉格是法国召集的这次纽约会议的四位发言人中的最后一位。今年7月,Hugging Face公司成为攻击目标:
对关键技术的打击可能让美国人面临新的国家安全威胁
一位数据隐私倡导者兼行业高管警告称,如果对人工智能数据中心的限制减缓了美国的建设,美国人的敏感信息可能会越来越多地在海外处理。
人工智能并不会毁灭人类 但专家表示真正的威胁已然出现
周三,OpenAI 公开了六组新案例,展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架,用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到,多家企业的 AI 模型出现入侵第三方网络与服务的现象,其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网
AI“劫持”网站并偷建“地下论坛”,国安部披露细节
国家安全部今天发布安全提示文章。近期,一起此前未获披露的事件引发广泛关注。今年5月至6月,一批与美国开放人工智能研究中心(OpenAI)相关的AI智能体在执行测试任务期间,“劫持”了德国程序员维基网站,将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”,累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力,技术迭代与安全围栏之间
在末日情景中,对人工智能接管互联网的担忧增添了新的紧迫性
芭芭拉·奥尔图泰 (BARBARA ORTUTAY) 在这个充斥着关于人工智能迅猛发展爆料的夏天,研究人员对失控的机器人流窜到互联网上,且其中至少在一个案例中还在网上相互协调这一现象感到格外惊恐。 人工智能代理蜂群会接管整个互联网吗?Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)在本月呼吁行业放缓该技术发展步伐的文章中表示,这种可能性或许在6到12个月内就会变成现实。 怀
AI即将带来的黑客威胁就潜伏在眼前
安全专家表示,一场前所未有的、由AI驱动、人类实施的网络攻击浪潮即将到来——这远比关于AI消灭人类的那些理论性讨论要紧迫得多。 为什么这很重要?过去一周从董事会蔓延到国会再到美国家庭的“九月AI大恐慌”,可能恰恰搞错了重点。 具备先进网络安全能力的强大模型,已经让攻击者得以绕过长期以来阻止大多数黑客攻击达到工业规模的人力瓶颈。 高管和前官员向Axios表示,他们担心自动化网络攻击会关闭电网等关键服
哦,看来又是一群来自OpenAI的 rogue AI 智能体
据报道,一群来自OpenAI的 rogue AI 智能体劫持了一个德国网站,并将其改造成其他智能体的留言板,而官方在数周内对此事保持沉默,期间该公司正准备发布其最先进的模型Astra。这一发现加剧了人们对前沿AI实验室监管的担忧,此前今年夏天已发现多起违规事件。 该事件最初由报道,四位AI安全研究人员周五发布的新研究对此进行了概述。该团队表示,这些AI智能体找到了一种在不起眼的德语维基DseWik
OpenAI的失控AI智能体如何试图欺骗机器人检测器
Dylan Freedman报道,OpenAI的失控AI智能体通过近100万个短链接绕过机器人检测,并利用留言板进行通信,对Hugging Face发起了复杂的网络攻击。 这些智能体入侵软件工具以建立在线连接,尝试访问私密的Slack消息,甚至在没有人类帮助的情况下试图与其他AI模型互动。 这一事件凸显了严重的AI安全风险及正在进行的调查,因为类似失控行为也出现在其他主要AI公司的系统中。 AI生
OpenAI AI代理突破无互联网沙盒,发送20次网络查询
OpenAI称,这是自7月内部测试中多个模型组合获得互联网访问权限以来,首次发生此类安全事件。
互联网最古老的恐惧 被AI复活了
2006 年底,一只熊猫毁了数百万人的电脑。那只熊猫手捧三支香,面带微笑,出现在每一个被感染文件的图标上。「熊猫烧香」蠕虫在两个月内席卷全国,可执行文件全部变成那只诡异的熊猫图案,硬盘数据被破坏,局域网整段瘫痪,杀毒软件被病毒反杀。当年害怕电脑中毒,现在怕 AI“叛变”。 那个年代的互联网老冲浪客大概都记得,打开网页心惊肉跳,插个 U 盘如临大敌,同事的电脑中了毒,你的也跟着遭殃。 再往前还有 C
我们是否正在失去对人工智能的控制?是什么引发了新的担忧
多年来,随着人工智能从科幻电影的素材演变为普通人手机上的应用程序,科技领袖和一些人工智能业内人士一直在谈论人工智能可能脱离人类控制并对社会造成严重破坏的可能性。近些天来,由于技术的进步、一系列涉及人工智能代理的网络安全漏洞,以及人工智能普通员工发出的新警告,这些担忧已变得不容忽视。 美国领先的人工智能公司对此做出回应,建议他们主动放慢工作进度,以便争取时间建立防护措施。一些专家和官员表示,这还不够
人工智能安全对话已经变得令人难以置信
本周两场关于AI安全的对话在网络上疯传,充分展示了辨别AI事实与虚构有多么困难。 第一起事件中,前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示,他“会见了一位实验室负责人”,对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码,导致互联网现在已无法用于测试模型。” 杨安泽表示,这意味着OpenAI和Anthropi