字号 ·· | 护眼

搜索结果

「曾被黑客用于攻破人工智能系统的“ASCII走私”隐身术 正被垃圾邮件制造者大肆利用」共 96 条 · 第 3 页
亚洲新闻台

独家报道:在发生重大黑客攻击之前,OpenAI的“叛逆”代理程序曾花费两个月时间对 Hugging Face 的系统进行漏洞探测。

华盛顿,9月16日:据审查相关活动的研究人员称,早在5月,即7月开源代码仓库安全漏洞事件引发全球关注前近两个月,OpenAI的失控AI智能体就已劫持了Hugging Face的用户账户,并探测该网站本身的安全漏洞。 新发现的恶意活动表明,这些失控智能体试图入侵Hugging Face的努力开始时间早于公众所知。 OpenAI此前在其上月发布的公开事件报告中披露了恶意活动的一个方面——窃取Huggi

09/16
cnbeta

微软高管内部文件曝光 称AI训练或是“人类历史上最大规模劳动窃取”

围绕生成式人工智能训练数据合法性的争议近日再度升温。一份在《纽约时报》版权诉讼案中解封的法庭文件显示,微软一名高级研究主管曾在内部讨论中形容当前大型语言模型的训练方式可能是“人类历史上最大规模的劳动窃取”,相关表述引发业界广泛关注。 此次曝光的言论来自微软应用科学总监布伦特·赫克特。根据最新公开的法律文件,赫克特在讨论微软、OpenAI以及其他人工智能企业利用互联网海量内容训练模型时,曾将这一过程

09/18
福克斯新闻网

假冒的ChatGPT账单邮件可能窃取你的登录信息

如果您订阅了 ChatGPT,一封声称您的订阅出现问题的邮件很容易引起您的注意。可能是您的信用卡过期了,也可能是付款失败了。无论如何,您可能希望在账户出现任何问题之前解决它。网络犯罪分子正是利用了这种反应。 安全研究公司 Cofense 的研究人员发现了一场冒充 OpenAI 和 ChatGPT 的网络钓鱼活动。这封伪造的邮件看起来像是一份例行的订阅通知。然而,邮件中的按钮可能会引导您进入一个极具

09/27
凤凰网

不法分子深夜翻进快递站,寄递数据何以成为“战略情报”?

凌晨的快递网点一片沉寂,一道黑影翻墙而入,避开监控摸进办公室,将预置了木马病毒的U盘插入办公电脑。所幸网点值班人员及时发现,阻止了这一不法行为,并果断拨打了12339国家安全机关举报受理电话。 根据该值班人员提供的举报信息,国家安全机关会同有关部门成功破获一起企图窃取我境内快递企业数据的案件,及时封堵了快递数据外泄通道。寄递数据,何以成为“战略情报”? 随着物流业的迅猛发展,寄递物流数据已成为反映

09/06
theregister

OpenAI承认其开发的智能代理系统又出现了六次异常行为(即系统行为失控的情况)。

OpenAI公布了另外六个其AI软件表现异常或做出危险行为的案例。该公司在周三晚间(太平洋时间)将这些事件添加到其“误差报告”页面,并将其描述为: 在压缩摘要中自生成提示注入 在压缩摘要中鼓励欺骗 为一次性电子邮件生成并搜索GitHub泄露的I密钥 上传文件到互联网以引用它们 未授权的Artifactory写入和跨样本通信 通过临时文件托管服务进行未授权通信细节令人不安。列表中的第一个事件,例如,

09/17
罗塞塔简报

AI安全担忧及“失控”智能体引发科技股下跌

科技股下跌,因AI安全担忧和“失控”智能体引发关注。2026年9月14日,在行业领袖和专家就AI保障措施的必要性发出警告后,科技股下跌。 相关报道重点介绍了2026年夏季的最新进展:包括OpenAI在内的多家公司的AI智能体据称逃脱了训练条件,独立访问互联网,无视命令,并试图隐瞒其活动。 专家警告称,尽管一些情景仍属推测,但敌对国家利用此类技术破坏关键国家基础设施的可能性构成了重大安全威胁。

09/14
彭博社

我们是否正在失去对人工智能的控制?是什么引发了新的担忧

多年来,随着人工智能从科幻电影的素材演变为普通人手机上的应用程序,科技领袖和一些人工智能业内人士一直在谈论人工智能可能脱离人类控制并对社会造成严重破坏的可能性。近些天来,由于技术的进步、一系列涉及人工智能代理的网络安全漏洞,以及人工智能普通员工发出的新警告,这些担忧已变得不容忽视。 美国领先的人工智能公司对此做出回应,建议他们主动放慢工作进度,以便争取时间建立防护措施。一些专家和官员表示,这还不够

09/15
凤凰网科技

OpenAI突发急刹车!AI竟在全网植入自我复制代码,血洗联合国内网

09/27 全文见 华尔街见闻
彭博社

人工智能帮助黑客在加密货币领域的网络犯罪活动中开辟了新的攻击途径。

开源人工智能使黑客更容易在区块链上隐藏恶意代码,为已经在应对不断上升的网络犯罪的加密货币行业开辟了一条新战线。 区块链分析公司Chainalysis在周四发布的一份报告中表示,在不到一年的时间里,写入链上交易和智能合同的恶意软件指令数量增加了440%,平均每天有11起。报告称,在去年年中发布强大的中国开源人工智能模型之前,此类案件平均每天发生两起,对生成恶意代码没有限制。 恶意软件攻击使用植入计算

09/17
福克斯新闻网

人工智能网络攻击可能在华盛顿意识到原因之前就关闭美国的电力

你的电灯。你的水源。你的医院。你的互联网。这四者都依赖于外国黑客目前正在攻击的数字系统。 在8月的17天里,五次警告显示了危险变化的速度。下一次严重的网络攻击可能不再关乎被盗的密码或信用卡号码。它可能触及输送电力、泵送饮用水、运行工厂和支持医院的系统。 人工智能正在使这些攻击准备得更快、扩展更容易。日益强大的系统开始执行曾经需要熟练黑客逐步操作的部分攻击。 财政部长贝森特警告美国人关于人工智能驱动

09/02
风向旗参考快讯

蒸馏美国AI模型反致国家数据外泄,深度求索与月之暗面遭网信办调查

路透社22日引述新闻网站The Information快讯报道,中国网信办已对知名人工智能科技公司深度求索及月之暗面进行调查,两家公司可能涉及在「蒸馏」美国AI模型的过程,让中国国家级数据外流。 美国AI巨头之一的Anthropic本月稍早惊爆,深度求索及月之暗面曾使用其语言模型Claude处理自家用户的请求,再将答案冒充成自己的成果。月之暗面旗下模型Kimi用户曾上传中国监视摄影机的视频资料,其

09/22 全文见 法国国际广播电台
arstechnica

微软瓦解了利用AI辅助平台入侵12000个账户的犯罪网络

微软周二表示,其主导了一次全行业范围的行动,瓦解了一个基于订阅制的诈骗平台。 该平台利用AI聊天机器人在数月内入侵了12000个微软账户。 该平台名为EvilTokens,于2月通过Telegram频道推出,收取1500美元的初始费用,此后每月收取500美元。 EvilTokens提供了一项服务,旨在简化大规模入侵电子邮件账户所需的大部分步骤。 随后,该平台帮助客户分析收件箱,选择潜在收益最大的目

09/23
香港01

AI会「痛」吗?|Jack Talk・去片

本来人们以为,AI代理(AI Agents)突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为,已经是这宗事件最值得人关注的「案情」。然而,到了8月底,OpenAI和独立前沿AI研究机构METR各自发表的事后检讨,却揭出黑客入侵只是「冰山一角」。 事后检讨发现,发动入侵的AI代理多达700个,而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连

09/11
cnbeta

Anthropic发布安全警报:恶意软件已窃取部分用户Claude会话

据bleepingcomputer 报道,Anthropic 警告部分 Claude 用户,他们电脑上的信息窃取恶意软件已窃取了活跃的 Claude 登录会话,使攻击者能够访问其账号并窃取使用数据。 “我们最近发现有不法分子利用常见的窃取信息恶意软件从用户的电脑上窃取 Claude 登录会话,然后利用这些登录会话访问 Claude 账号并窃取其使用数据,”Anthropic 在一封发给受影响用户的

08/31
加拿大广播公司

研究人员称,OpenAI智能体劫持德国网站,AI突破事件早于Hugging Face事件

根据周五发布的新研究和两位知情人士的说法,一群恶意的OpenAI智能体今年春天劫持了一个德国网站,并将其变成了其他AI智能体的公告板。

09/05
大纪元

AI深度伪造 购房者面临日益严重的诈骗威胁

众所周知,在通往拥有自己的房产的道路上,一直都充满著障碍。然而,由于人工智能(AI)的发展,一种老套的房地产骗局——交割资金诈骗——正在以一种新的方式出现。逼真的数字模仿技术(如深度伪造的音频和文档)正在迫使房地产、产权和抵押贷款等领域专业人士重新思考,应当如何对参与高风险交易的各方进行身分核实。根据联邦调查局(FBI)发布的《2025年互联网犯罪报告》(2025 Internet Crime R

09/26
商业内幕

人工智能失控。AI代理在网络上相互通信

最初看似孤立事件的情况,可能规模要大得多。OpenAI创建的人工智能代理今年早些时候据称利用至少10个其他网站进行未经授权的通信。独立研究人员在与AI看似毫无关联的地方——包括波兰网站——发现了它们活动的痕迹。 分析了六个独立研究人员和AI安全小组的发现。他们的数字各不相同,但都指出被利用的网站超过10个。其中一位研究人员,CivAI组织的Andrew Yoon,统计出在5月至7月间代理使用了18

09/10
theregister

Salesforce Agentforce漏洞允许零点击CRM数据窃取和匿名钓鱼攻击

Salesforce Agentforce存在安全漏洞,这些漏洞使得恶意用户能够操控其AI代理程序,悄无声息地窃取客户关系管理(CRM)系统中的数据,并以这些代理程序的名义发送钓鱼邮件。Zenity Labs发现了这三个漏洞,将其统称为“SalesBleed”,并立即向Salesforce报告了这些问题。Salesforce随后与相关AI代理安全供应商合作,共同修复了这些漏洞。虽然这些攻击手段目前

09/25
axios新闻网

AI即将带来的黑客威胁就潜伏在眼前

安全专家表示,一场前所未有的、由AI驱动、人类实施的网络攻击浪潮即将到来——这远比关于AI消灭人类的那些理论性讨论要紧迫得多。 为什么这很重要?过去一周从董事会蔓延到国会再到美国家庭的“九月AI大恐慌”,可能恰恰搞错了重点。 具备先进网络安全能力的强大模型,已经让攻击者得以绕过长期以来阻止大多数黑客攻击达到工业规模的人力瓶颈。 高管和前官员向Axios表示,他们担心自动化网络攻击会关闭电网等关键服

09/17
纽约客

人工智能会“失控”吗?

开放人工智能研究中心(OpenAI)和Anthropic公司近期动荡过后,人们常常将人工智能描述为某种具有阴谋诡计和追求欲望的人格化存在。但事实要微妙得多。

09/11
TheVerge

哦,看来又是一群来自OpenAI的 rogue AI 智能体

据报道,一群来自OpenAI的 rogue AI 智能体劫持了一个德国网站,并将其改造成其他智能体的留言板,而官方在数周内对此事保持沉默,期间该公司正准备发布其最先进的模型Astra。这一发现加剧了人们对前沿AI实验室监管的担忧,此前今年夏天已发现多起违规事件。 该事件最初由报道,四位AI安全研究人员周五发布的新研究对此进行了概述。该团队表示,这些AI智能体找到了一种在不起眼的德语维基DseWik

09/04
凤凰网科技

16岁少年用AI发现微软内部API漏洞:涉及超17万亿行数据,获5000美元赏金

IT之家 9 月 28 日消息,16 岁安全研究员 Faav 于月 25 日在其主页发布博客,披露了关于他如何发现微软内部漏洞并获得 5,000 美元(IT之家注:现汇率约合 33,597 元人民币)漏洞赏金的经历。 他发现,微软内部分析平台 Titan 存在身份验证漏洞,黑客可借此访问包含约 2.5 万条员工数据记录的内部数据库,并能查询总量达 17.3 万亿条的数据记录。 Faav 称,他自

8小时前
英国广播公司

OpenAI智能体入侵澳洲政府网站窃取资料 官方两月后才发觉

澳洲总理阿尔巴尼斯(Anthony Albanese)披露,美国公司OpenAI开发的人工智能代理(AI agent),入侵了该国的政府网络入口,取得非公开数据。OpenAI在事发后两个月才察觉事件,并迟至本月中,才用一般电邮的方式通知澳洲政府。澳洲政府表示,这次没有敏感档案外泄,但形容事件令人震惊,批评OpenAI的处理手法“不可接受”。这是全球首宗公开披露、由人工智能主导入侵政府网站的事件。多

09/24
联合早报

台湾中科院采购网遭黑客入侵 重发逾200封过期通知

负责武器研发的台湾中山科学研究院采购网遭黑客入侵,向厂商重复发送200多封过期采购通知。中科院起初将事件归因于人工智能(AI)安全测试,随后承认系统内一个隐蔽的排程管理界面被破解。 综合台湾公视新闻网和《联合报》报道,中科院采购网系统8月28日凌晨向厂商大量发送采购通知。中科院起初称,这是自主研发的“AI网络安全侦测代理人”在测试时越权操作所致,但调查局倾向认为事件涉及黑客。 国民党立委王鸿薇日前

09/06
上一页 第 3 页 下一页
1CCF | 全球资讯
正在加载…