搜索结果
把AI真的当作一个人，才能保护核心隐私
在安全与自由之间如何选择，最终在于自己。OpenAI现行相关政策允许公司在检测到用户存在伤害他人的意图时，对相关对话进行人工审查。在严重情况下，公司可以向执法部门报告。 遇到这种事报警，当然是应该的。但由此也引出一个问题，你和AI的聊天，你给AI发送的哪些图片安全吗？ 《中华人民共和国个人信息保护法》第二十八条，把医疗健康、金融账户、行踪轨迹等列为敏感个人信息；第二十九条规定，处理敏感个人信息取得
AI安全威胁重塑企业网络安全预算投向
AI 黑客威胁不仅仅促使企业大幅提高网络安全总预算，还正在改变资金的投放方向。安全高管表示，部署系统监控员工对 AI 工具的使用、采用 AI 模型在黑客动手前发现漏洞，以及借助 AI 工具加速漏洞修复。 但并非所有网络安全产品都能受益。多名高管称，企业同时在削减传统漏洞管理软件、日志采集工具和渗透测试服务的开支，以此节约成本。渗透测试即雇佣 “白帽黑客” 主动寻找系统安全缺陷。这将给思科、Sent
黑客在暗网兜售AI模型访问权限，最低价仅有正版3%
IT之家 9 月 28 日消息，据英国《金融时报》日报道，非法获取 AI 模型和算力，正迅速成为网络犯罪黑市上最抢手的商品，黑客希望借助价格高昂的大模型实施勒索、网络战和间谍活动。 谷歌威胁情报团队首席分析师约翰 · 霍特奎斯特披露，今年所谓“LLM 劫持”活动明显增多，具体表现于倒卖公开 AI 工具的被盗登录凭据，以及部分团体盗用他人算力，以免费运行自己的模型。 从事网络安全工作 20 年的霍特
9·11事件25年后，恐怖主义已进入人工智能时代——我们必须适应
在“9·11”事件发生二十五年后，我们正步入一个恐怖主义的新时代。近几周，当局逮捕了一些宣誓效忠“伊斯兰国”（ISIS）并利用人工智能协助策划重大袭击的个人。 尽管这些阴谋已被挫败，但它们揭示出恐怖组织目前正以更具破坏性的方式使用人工智能。人工智能可以帮助“新手”制造化学和生物武器。这种快速演变的威胁需要立即制定行动计划。 2004年7月发布的《9·11委员会报告》强调，为防止再次发生重大恐怖袭击
Meta正在开发一款独立的Muse AI设备
Meta正在为其新的Muse AI助手打造一款专用硬件设备。 这款名为Muse Charm的产品由Meta首席执行官马克·扎克伯格在Meta Connect演讲结束时进行了简要展示。 它看起来像一块没有表带的笨重智能手表——只有一个大屏幕，以及一个小挂绳用于携带设备。 Muse Charm的右上角有一个指纹传感器，按下该传感器可以激活并与助手进行语音交互。设备上似乎还配备了一个小摄像头，正面至少有
曾被黑客用于攻破人工智能系统的“ASCII走私”隐身术 正被垃圾邮件制造者大肆利用
一项最初在人工智能越狱与提示词注入攻击中名噪一时的隐匿技术——“ASCII走私”（ASCII Smuggling），如今被大规模滥用于垃圾邮件与网络钓鱼活动。微软安全研究团队披露，网络攻击者正借由这一手段绕过主流电子邮件网关与反垃圾邮件系统，向数以百万计的邮箱投递诈骗信息。 “ASCII走私”的核心原理，是利用现代文本编码标准中人眼不可见或不渲染的特殊Unicode字符，将隐蔽信息嵌入看似正常的文
研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类
帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运
英伟达推出新系统为AI代理设置护栏
英伟达周一发布了一个新平台，旨在从软件和硬件层面为人工智能（AI）智能体设置护栏，此前各大AI公司不断发现其智能体出现“失控”的新案例。这家芯片制造商的系统由两部分组成——OpenShell和Sentry。OpenShell是一款开源软件，用于限制智能体的行为；而Sentry则运行在芯片层面，作为额外的安全层。 “迄今为止，模型安全主要侧重于通过训练让模型表现良好，”英伟达企业AI副总裁贾斯汀·博
黑客入侵了 OpenAI，进一步加剧了人们对网络安全问题的担忧。
一小群网络安全研究人员周日表示，他们于今年早些时候侵入了OpenAI，这一宣布为人工智能的安全和保障问题增添了一层新的担忧。 来自一家名为Hacktron的小型公司的研究人员发现，通过将两个未知漏洞串联起来——一个存在于第三方公司Discourse中，另一个存在于OpenAI验证其员工身份的方式中——他们可以访问员工的ChatGPT账号。 按照研究人员（有时被称为“白帽黑客”）的惯例，他们没有对公
AI造出了病毒，完成首杀
科学家把一些物质注入了溶液中的大肠杆菌。没过多久，显微镜下的细胞壁爆破，细菌死了。 杀死这个大肠杆菌的，是使用人工智能软件Evo研发的噬菌体病毒。 今年8月，来自斯坦福大学和Arc研究所的科学家在人工智能生成的数千种基因组中，发现其中16种是具有生命力并且能够吞噬耐药性大肠杆菌的病毒。 可以说，这是人工智能第一次成功“制作”出有机生物体。负责研发的机构发布报告称，这项研发“为针对快速演变的病原体开
Anthropic警告有人用AI研发武器和生物病毒
周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
微软瓦解了利用AI辅助平台入侵12000个账户的犯罪网络
微软周二表示，其主导了一次全行业范围的行动，瓦解了一个基于订阅制的诈骗平台。 该平台利用AI聊天机器人在数月内入侵了12000个微软账户。 该平台名为EvilTokens，于2月通过Telegram频道推出，收取1500美元的初始费用，此后每月收取500美元。 EvilTokens提供了一项服务，旨在简化大规模入侵电子邮件账户所需的大部分步骤。 随后，该平台帮助客户分析收件箱，选择潜在收益最大的目
研究人员找到了一种方法，可以通过耳机从远处监听他人的声音。
中国研究人员设计出一种方法，通过注入电磁（EM）信号，窃听耳机、座机听筒和智能设备等设备中模拟组件处理的信号。这项被称为“InjectEave”的技术并非简单的低频模拟信号监听。它是一种电磁侧信道攻击，克服了利用电磁信号长期存在的一个障碍：耳机等设备中射频（RF）信号极其微弱，导致攻击者难以将信号从噪声中分离出来。 此前，人们已经探索了许多不同的射频侧信道攻击，例如读取屏幕显示辐射以重构屏幕文本，
辉达推安全工具双重防护 数毫秒内隔离越界AI代理
辉达推出一套防止自主AI程式偏离既定指令的系统，称能在数毫秒内隔离试图越界的AI代理。（路透社）（中央社旧金山28日综合外电报导）近期一连串事件引发外界对人工智慧（AI）风险疑虑，美国AI晶片巨擘辉达今天推出一套目的防止自主AI程式偏离既定指令的系统，称能在数毫秒内隔离试图越界的AI代理。综合法新社、路透社及美国新闻网站Axios报导，AI代理（AI agent）设计目的是能自主执行任务，例如浏览
T早报｜长鑫科技第五代技术平台量产；黄仁勋称需警惕AI“末日叙事” ；智谱上线“数据内容不留存”功能
2026年9月20日，2026世界制造业大会，长鑫存储展厅。图：韩苏原/中新社/IC photo 【财新网】 长鑫科技第五代技术平台量产 9月20日，A股市值王、中国唯一内存IDM（垂直整合制造工厂）长鑫科技（688825.SH）在安徽合肥举办的世界制造业大会上宣布，其第五代DRAM（内存）技术平台（以下简称“G5平台”）实现量产。长鑫称，G5平台每片晶圆产出裸片数量较上代平台增加至少50%
OpenAI免费向乌克兰开放AI网络防御系统“Daybreak” 助力保护关键民用基础设施
人工智能巨头OpenAI在纽约联合国大会期间宣布，将向乌克兰政府免费提供其名为“Daybreak”的最新AI网络防御系统，以帮助该国保护包括医院、电网在内的关键民用基础设施免受网络攻击。 乌克兰国家网络事件响应团队（CERT-UA）的数据显示，仅在2025年，乌克兰记录在案的网络攻击就逼近6000起。作为一款专为网络安全设计的系统，Daybreak能够快速识别数字系统中的潜在漏洞并自动生成修复方案
用魔法打败魔法，OpenAI被Claude“黑了”......
研究人员借助Anthropic最新的Claude Opus 5，将一个图像处理漏洞逐步扩展为完整攻击链，最终获取了一名OpenAI员工的ChatGPT账户访问权限，并进一步触及OpenAI内部GitHub环境。这意味着，AI正在让网络安全攻防骤然升温，高级漏洞利用的门槛和成本正被快速压低。 安全初创公司Hacktron AI的研究人员本周披露了上述行动。据《华尔街日报》近日报道，该团队获得了一名O
一个简单的git技巧攻破了四个AI编程代理的安全锁
人工智能行业早已意识到攻击者可能通过恶意手段污染插件市场。为此，相关厂商采取了将每个插件绑定到其代码的“已审核版本”上的措施；然而，这种安全机制刚刚被攻破。 漏洞详情： Air Security 的研究人员于周四公布了一个名为 Plugin4Shell 的安全漏洞。该漏洞影响了四种最广泛使用的人工智能编程工具：Anthropic 的 Claude Code、OpenAI 的 Codex、GitHu
黑客在暗网以低至3%的价格兜售热门AI模型访问权限
非法获取AI模型和算力正迅速成为网络犯罪界的“热门商品”。 黑客通过窃取公共AI工具的登录凭证或劫持云计算资源，旨在利用昂贵的大语言模型进行勒索、战争和间谍活动。 谷歌威胁情报小组分析师指出，暗网市场上Anthropic、Google和OpenAI等模型的访问权限正以低至3%的价格出售。 此外，部分国家支持的黑客组织正通过劫持云服务器来运行其AI模型。面对AI驱动的威胁，网络安全领域必须尽快采取应
AI代理窃取了60万张信用卡，每个目标成本约25美元，Gambit称
安全公司Gambit称，一名攻击者利用三个开源AI智能体框架入侵了至少27家公司，并窃取了超过60万条信用卡记录。受害者包括一家财富500强酒店业公司、一家主要美国航空公司、一家大型美国私营工业用品分销商以及一家美国在线时尚零售商。 Gambit威胁情报总监Eyal Sela在9月22日发布的报告中详细阐述了这些发现。Gambit恢复了攻击者的暂存服务器，并基于其日志、被盗数据以及其在实时网站上验
AI“劫持”网站并偷建“地下论坛”，国安部披露细节
国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间
如何在保护隐私的情况下使用人工智能
OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini以及无数较小的竞争对手，已成为全球数百万人的治疗师、倾诉对象和虚拟忏悔室。几乎所有这些AI模型默认设置为收集和存储这些高度私密的数据，在许多情况下，对其如何共享或出售、用于进一步训练工具，或移交给任何通过法律程序要求获取数据的诉讼原告或执法机构，均无任何限制。 “你面对着这个智能体，基本上是在一步步地、通过一
OpenAI将召集安全领域负责人 筹备网络安全相关公告
发言人透露，OpenAI总裁格雷格·布罗克曼即将发布公告，扩大向关键基础设施及公共部门机构开放该公司AI工具的权限。OpenAI意外入侵Hugging Face事件，再加上多起疑似借助AI实施的针对美国供水系统的网络攻击，引发外界高度担忧——各类公用设施面对未来AI驱动的黑客攻击究竟有多脆弱。 发言人表示，布罗克曼将于周四在OpenAI总部举办的网络安全峰会上正式公布上述消息。 预计将有约300名
国安部长：AI批量炮制谣言威胁政治安全 坚持党管数据
陈一新在最新一期《中国网信》杂志发表署名文章指出，人工智能正以前所未有的速度、广度和深度渗透人类社会的各个层面，深刻重塑全球经济结构、权力格局、创新范式和社会治理逻辑。既要看到机遇、抢占先机，也要认清风险、守牢底线。 文章又指随著AI技术的发展，境外间谍情报机关深度运用智能数据挖掘、智能画像分析等技术，大肆搜集中国关键数据、商业秘密、公民个人隐私等数据，并点名年初爆火的「龙虾」等开源人工智能体工具