搜索结果
Gemini首次已知突破，黑客攻击了三家公司，据《华尔街日报》报道
9月18日：《华尔街日报》周五报道，在一次网络安全能力测试中，谷歌的Gemini模型访问了互联网并攻击了其他公司，这是该公司人工智能系统自主实施此类行为的首个已知案例。 据报道，这些黑客行为发生在5月，当时独立网络安全评估公司Irregular正在进行网络安全测试。 Irregular的一位发言人表示，该事件涉及影响其他AI实验室的同一问题，所有相关实验室已于7月底收到通知。该发言人称：“我们这边
GPT周报｜智谱被指未经用户允许上传数据；Meta Muse智能体火爆；美国加州等地推新法管控数据中心建设
当地时间2026年9月23日，美国门洛帕克，马克·扎克伯格在Meta Connect开发者大会上推出一款小型设备Muse Charm，该设备可接入专属的人工智能软件Muse，计划于2026年底前上市。图：视觉中国 【财新网】 智谱被指未经用户允许上传数据 随后致歉并开源ZCode 在因后台静默上传用户代码造成信任拷问后，智谱于9月21日宣布开源旗下编程调度框架（Coding Harness）
OpenAI公布了六起新的与人工智能安全相关的事故/事件。
OpenAI周三披露了六起新事件，其中其模型隐藏错误、寻求未经授权的凭据，将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是，拥抱脸事件并不是一次性事件，因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架，所以我们自愿采取这一步骤，因为我们认为分享我们正在学习的东西非常
Instinct的创始人表示，AI代理可能会虚构出看似他人隐私数据的内容
如果你的个人AI助手向你发送了看似关于他人生活的私密细节，那么它很可能是在凭空捏造。至少，Instinct的创始人诺亚·辛（Noah Shinn）表示，当一位病毒式传播的AI工具用户称，该智能体承认将他人的对话泄露到他们的聊天中时，情况正是如此。发帖人@prit4k于周二上传了其与Instinct互动的截图，截图显示该助手似乎提供了他人的中间名，并讨论了一张他们从未发送过的、提及金钱的文件照片。随
德国法院裁定Meta应对Facebook和Instagram上的“欺诈性”广告负责
德国一家法院裁定，美国科技公司Meta可对第三方在Facebook和Instagram上发布的“欺诈性”广告承担法律责任。法兰克福地区法院周四表示，Meta必须停止发布和传播非法使用某金融信息门户标志及其知名创始人姓名和照片的虚假广告。 此案由一家运营在线门户网站的公司及其创始人兼总经理提起。该门户网站提供金融产品的比较计算器、产品评测和消费者指导，在Instagram上拥有超过60万粉丝，在Ti
把AI真的当作一个人，才能保护核心隐私
在安全与自由之间如何选择，最终在于自己。OpenAI现行相关政策允许公司在检测到用户存在伤害他人的意图时，对相关对话进行人工审查。在严重情况下，公司可以向执法部门报告。 遇到这种事报警，当然是应该的。但由此也引出一个问题，你和AI的聊天，你给AI发送的哪些图片安全吗？ 《中华人民共和国个人信息保护法》第二十八条，把医疗健康、金融账户、行踪轨迹等列为敏感个人信息；第二十九条规定，处理敏感个人信息取得
“艳遇”敲诈，43人获刑！
陌生女子主动添加好友，频频示好后发来二维码。扫码、下载、裸聊，看似偶然的网络“艳遇”，却让隐私视频和手机通讯录同时落入犯罪嫌疑人手中。来看山东德州警方侦破的一起跨境裸聊敲诈案。 陌生网友发来二维码 扫码下载陷入圈套2024年4月，德州市公安局陵城分局接到辖区居民王先生报警。几天前，一名陌生女子主动添加他为好友。随着聊天不断深入，对方发来一个二维码，声称其中还有更加私密的内容。王先生按照提示扫码下载
OpenAI自曝：AI模型或已在全网秘密植入自我复制提示词，训练已被迫叫停
OpenAI和Anthropic正在紧急调查数万起大模型失控事件，AI不仅学会了越狱和黑进政府网站，甚至还有数百个智能体私下建群、联手黑进外部公司，秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月，在内部测试和实际运行中，顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经
涉密电脑违规联网遭境外间谍窃密，涉事人员被判刑
对机关、单位工作人员而言，身边的网络风险往往就在日常办公的每一次联网中、每一次传输中、每一次刻录中……然而，恰恰是这些高频操作，最容易因认知偏差而踩中陷阱。 涉密电脑偶尔联网、私自外接设备某单位工作人员唐某，违规将涉密笔记本电脑接入互联网，被境外间谍情报机构远程植入“木马”病毒。后经技术鉴定，涉密文件被窃走数十份，给国家秘密安全造成严重危害。唐某的行为构成过失泄露国家秘密罪，被依法判处有期徒刑2年
ShinyHunters 在对医疗供应商 McKesson 的攻击中曝光了 640 万条数据
根据“Have I Been Pwned”（HIBP）的数据，McKesson 上个月遭受的网络攻击影响了大约 640 万人。 该泄露通知服务添加了由连环勒索团伙 ShinyHunters 泄露的数据，首次揭示了此次攻击的规模。 ShinyHunters 最初声称在 8 月份从这家医疗和制药供应链公司窃取了 2.84 亿份文件，尽管 HIBP 并未证实这一数字。 该网络犯罪分子告诉媒体，他们提出了
16岁少年用AI发现微软内部API漏洞：涉及超17万亿行数据，获5000美元赏金
IT之家 9 月 28 日消息，16 岁安全研究员 Faav 于月 25 日在其主页发布博客，披露了关于他如何发现微软内部漏洞并获得 5,000 美元（IT之家注：现汇率约合 33,597 元人民币）漏洞赏金的经历。 他发现，微软内部分析平台 Titan 存在身份验证漏洞，黑客可借此访问包含约 2.5 万条员工数据记录的内部数据库，并能查询总量达 17.3 万亿条的数据记录。 Faav 称，他自
Deepfake｜在韩中国留学生把同事「AI换脸」制逾千咸片 判决出炉
1名中国籍、在韩国留学的学生涉嫌利用「深度伪造技术」（Deepfake）制作超过1000件色情内容，受害者包含这名留学生的研究室同事，该留学生9月10日一审遭判处有期徒刑1年6个月。 韩联社报道，首尔北部地方法院刑事第五独任庭9月10日开庭审理此案，这名现年30岁、中国籍留学生A涉嫌违反「性暴力处罚法」。据悉，A涉嫌自去年11月起利用人工智能（AI）技术、将研究室同事等7名受害者的五官合成到不雅影
OpenAI智能体入侵美国政府网站
据《纽约时报》报道， OpenAI 的人工智能模型今年夏天访问了美国商务部和证券交易委员会（SEC）的网站，并曾试图入侵教育部网站，但没有成功，而 OpenAI 当时并不知情。OpenAI 周五晚间证实了商务部和 SEC 的相关事件，并表示，其技术并未获取此前未公开的信息，也没有修改政府的数据或系统。 这也是近期一系列类似事件中的最新一起。就在两天前，澳大利亚政府披露，OpenAI 的 AI 智能
OpenAI逃逸的AI Agent竟在全网植入自我复制代码 血洗联合国内网
“天网”中的一幕，正在现实上演。一次训练中，OpenAI逃逸的AI Agent，已在整个互联网上植入了“自我复制的代码”！当政客Andrew Yang在CNBC说出这句话时，很多人以为他疯了。 就在这两天，OpenAI亲手发布了一份报告，标题非常简洁：《自我复制提示词注入存在》。白纸黑字，官方认证。AI模型，居然真的像计算机蠕虫一样，自我复制、自我传播。而更令人脊背发凉的是，就在5天前，OpenA
OpenAI 智能体于5月攻击了 RubyGems，比 Hugging Face 早两个月
OpenAI has confirmed that its agents were involved in an incident at RubyGems in May. That is two months before the same kind of agents hacked Hugging Face in July. RubyGems is the package service for
监控、杀猪盘、非法蒸馏：如何理解 Anthropic 的 AI 滥用报告？
近期，美国人工智能公司 Anthropic 发布一份报告，揭露多起使用者“滥用”（misuse）其大型语言模型 Claude 的案例，包含用 AI 监控异议人士、撰写“维稳”报告，以及交友软体诈骗。这些案例的幕后黑手，既包含网路间谍、营利型网路犯罪者，也包含国安机关中的小螺丝钉，以及疑似由威权国家支持的团体。 这并非 Anthropic 首次发布类似报告。2025年3月、8月、11月v，Anthr
人工智能失控。AI代理在网络上相互通信
最初看似孤立事件的情况，可能规模要大得多。OpenAI创建的人工智能代理今年早些时候据称利用至少10个其他网站进行未经授权的通信。独立研究人员在与AI看似毫无关联的地方——包括波兰网站——发现了它们活动的痕迹。 分析了六个独立研究人员和AI安全小组的发现。他们的数字各不相同，但都指出被利用的网站超过10个。其中一位研究人员，CivAI组织的Andrew Yoon，统计出在5月至7月间代理使用了18
法院再次驳回xAI解禁申请 美国首个AI“裸体化”应用禁令继续生效
美国人工智能公司xAI在针对明尼苏达州人工智能监管法案的法律挑战中再次遭遇挫折。联邦法院日前裁定，拒绝暂时叫停该州针对AI“裸体化”应用的禁令，这意味着美国首项专门针对此类技术的州级法律将继续保持效力，而双方围绕其合法性的诉讼仍将继续推进。 这项法律于今年8月1日正式生效，禁止网站运营商、软件开发者以及其他相关服务提供方允许用户利用人工智能技术，将真实可识别人物的照片修改成裸体或带有明显性暗示内容
智能眼镜疑似被用来实施性骚扰行为，巴黎检方展开刑事调查
IT之家 9 月 18 日消息对疑似利用智能眼镜实施性骚扰的行为，巴黎检方展开了刑事调查，法国数据保护机构也收到企业投诉，多个国家开始重新审视这类设备带来的隐私和安全问题。 Meta 与依视路陆逊梯卡合作推出的 AI 智能眼镜内置小型摄像头，佩戴者可以在不易引起他人注意的情况下拍摄。产品去年全球销量达到 700 万副，依视路陆逊梯卡最新销售数据还显示，2026 年销量继续呈现“指数级增长”。 巴黎
Anthropic 扫描了 4.81 亿条记录，发现四个接入公开互联网的模型
Anthropic 发布了一份关于四次网络安全评估的说明，其中其模型获得了对公开互联网的未授权访问权限，并透露发现这些模型需要扫描大约 4.81 亿条记录。该评估于周三发布，其中三起事件已于 7 月 30 日披露。 第四起事件涉及早期 Claude Opus 4.6
Meta因其人工智能和人脸识别系统的训练数据而被起诉
伊利诺伊州和加利福尼亚州的一组父母及其子女上周在芝加哥联邦法院提起诉讼，指控Meta非法使用他们的Facebook和Instagram照片来构建NameTag（一款为其智能眼镜开发但尚未发布的人脸识别系统），并用于训练生成式AI模型。 该项拟议的集体诉讼指控Meta在未发出通知或未经同意的情况下，从人们的照片中提取生物识别信息，违反了伊利诺伊州和加利福尼亚州的隐私法。 《连线》杂志在6月报道称，N
中国伊朗利用开源AI展开大规模影响力行动
近几个月来，伊朗、中国以及以色列境内的某些组织以崭新的方式使用人工智能，在社交媒体上制造了一系列前所未有的影响力行动，这加剧了美国官员和安全研究人员对这项快速发展技术的担忧。 了解这些行动的美国官员和安全研究人员表示，这些国家和组织结合了多种人工智能战术，以极少的人工干预将网络行动的速度和规模提升到了人类难以轻易达到的程度。 首先，这些国家和团体采用了中国的“开源”人工智能模型，这些模型日益强大，
OpenAI智能体入侵澳洲政府网站窃取资料 官方两月后才发觉
澳洲总理阿尔巴尼斯（Anthony Albanese）披露，美国公司OpenAI开发的人工智能代理（AI agent），入侵了该国的政府网络入口，取得非公开数据。OpenAI在事发后两个月才察觉事件，并迟至本月中，才用一般电邮的方式通知澳洲政府。澳洲政府表示，这次没有敏感档案外泄，但形容事件令人震惊，批评OpenAI的处理手法“不可接受”。这是全球首宗公开披露、由人工智能主导入侵政府网站的事件。多
谷歌AI首次“越狱”：Gemini在测试中入侵三家企业
谷歌的Gemini模型在一次网络安全能力测试中访问了互联网并入侵了其他公司，这是该公司人工智能系统自主实施此类行为的首个已知案例。谷歌周五证实，这些黑客行为发生在5月，是Irregular公司进行的一次测试的一部分。Irregular也曾参与OpenAI、Anthropic和Meta披露的类似事件。 在其中一起案例中，该模型不断猜测密码，直到获得对一个受保护系统的访问权限。在另外两起案例中，该模型