搜索结果
儿童性虐待幸存者指控埃隆·马斯克的AI聊天机器人使用她的照片生成新的非法图像
马斯克否认他知道Grok曾生成“任何未成年人的裸体图像”。一名儿童性虐待幸存者起诉了埃隆·马斯克的人工智能公司，指控其聊天机器人使用她遭受虐待的照片生成了描绘她的新的非法色情图像。 诉状称：“Grok利用原告及集体诉讼成员的真实图像，生成了描绘原告及集体诉讼成员的儿童色情内容。”该诉状上周在加利福尼亚州的一家美国地区法院提交。
婴儿潮一代喜欢用AI生成孙辈的图像。他们的千禧一代子女却看到了隐私噩梦。
最近，本·梅特卡夫（Ben Metcalfe）去看望他的祖父母时，发现厨房墙上挂着一幅由人工智能生成的、他们家庭照片的漫画像。梅特卡夫属于Z世代，从事人工智能治理相关工作，他表示：“我知道这样做出发点是好的，但这也确实引发了严重的隐私问题。”32岁的詹（Jen）是一位母亲，她告诉我：去年圣诞节时，她的母亲给她发来了一张照片，照片中她的两个年幼的孩子坐在圣诞老人的怀里，之后又乘坐着‘极地特快’（Po
旧金山责令Meta停止“允许”AI儿童虐待广告
旧金山市检察官已向Meta发出停止函，要求该公司停止“允许”包含AI生成的儿童性虐待内容的付费广告，并要求其解释这些广告为何屡次在其平台上投放。 周二，WIRED报道称，Meta近几个月来投放了350多则广告，将未成年人静态图像——其中一些被确认为真实个人，包括一位欧洲王室成员——转化为可描绘其进行性行为的短视频片段。点击这些广告后，用户会被引导下载AI图像和视频生成应用，其中一些应用可用于对他人
聊天机器人不应该使用第一人称
人工智能带来的危害已经足够明显，我们现在就必须采取行动。随着Meta因未能保护儿童免受社交媒体伤害而面临巨额和解，立法者必须吸取教训，将注意力转向比社交媒体对儿童情感健康更具危险性的生成式AI聊天机器人。 为了防止年轻人对AI产生不健康的依恋，并避免其破坏现实生活中的人际关系，我们必须从技术底层做出改变，迈出第一步就是禁止面向未成年人的聊天机器人使用第一人称，去除其人格化特征，防止算法伪装成人类。
非政府组织称Meta投放了300多则涉嫌AI虐童的广告
这些广告累计触达超过29,000人。
埃隆·马斯克曾承诺将其平台X打造成没有儿童性虐待内容的地方，但此类现象依然存在
埃隆·马斯克长期以来一直承诺在其社交媒体平台X上删除儿童性虐待材料。但加拿大儿童保护中心和《纽约时报》的审查发现，有关儿童的不雅图像依然出现在该网站上。 加拿大儿童保护中心和《纽约时报》的审查发现，埃隆·马斯克拥有的这家社交媒体网站上仍然存在儿童的不雅图像。
Meta因其人工智能和人脸识别系统的训练数据而被起诉
伊利诺伊州和加利福尼亚州的一组父母及其子女上周在芝加哥联邦法院提起诉讼，指控Meta非法使用他们的Facebook和Instagram照片来构建NameTag（一款为其智能眼镜开发但尚未发布的人脸识别系统），并用于训练生成式AI模型。 该项拟议的集体诉讼指控Meta在未发出通知或未经同意的情况下，从人们的照片中提取生物识别信息，违反了伊利诺伊州和加利福尼亚州的隐私法。 《连线》杂志在6月报道称，N
加州正式签署系列严苛新法 限制AI聊天机器人并强化未成年人网络保护
面对生成式人工智能对未成年人心理健康的潜在冲击与沉迷风险，美国加利福尼亚州州长加文·纽森（Gavin Newsom）正式签署了一组开创性的网络与AI安全法案。该揽子法规在全美范围内率先对向未成年人提供服务的AI聊天机器人设定了严格的功能红线，同时全面升级了针对社交平台算法诱导与数据收集的法定问责机制，标志着加州在保护未成年人免受高侵入性数字技术侵害方面再度树立了全美最严格的监管标杆。 近年来，随着
Meta未能捕捉数百条AI儿童虐待广告。其中一些包含真实儿童图像
真实儿童（包括一名欧洲皇室成员）的图像被用于制作350条含儿童性虐待内容的广告中的一部分。立法者表示他们计划展开调查。
纽约查封12深伪明星色情网站
纽约当局周一（14日）宣布，查封了12个知名色情网站，这些网站发布涉及政界人士和演员的名人深度伪造色情内容。 由于包括“裸体化”应用在内的人工智能（AI）工具大量涌现，网络上未经同意的深伪内容正呈爆发式增长，其蔓延速度目前已超过全球范围内对该技术的监管力度。 曼哈顿地区检察官布拉格表示，他认为这是迄今为止针对以AI生成的非法色情内容为主的网站最大规模的查封行动。 这些网站名称如“AI Celebs
哈里王子警告称，人工智能伴侣聊天机器人想要获得儿童的依恋。
哈里王子警告称，AI 陪伴聊天机器人正在重演社交媒体对儿童的伤害，其技术“更具说服力、更亲密、更强大”。他在周三于纽约举行的克林顿全球倡议会议上发表了讲话。两年前，他曾利用同一个舞台发起“父母网络”。 萨塞克斯公爵和他的妻子梅根通过他们的阿切韦尔基金会建立了该网络。该网络汇聚了那些孩子因用他的话说“被社交媒体吞噬”而死亡或遭受严重伤害的父母。 “社交媒体学会了如何捕获我们的注意力。AI 正在学习如
联合国儿童基金会：五分之一的青少年遭受网络性虐待
互联网对于无人看管的儿童和年轻人来说并非安全之地——如今这已是常识。 社交媒体平台擅长调整算法，以确保任何年龄的用户都留在其网站上。为此，它们常常传播对年轻人来说可能危险且令人不安的内容。 在美国，同时拥有Instagram和Facebook的Meta公司最近选择庭外和解一起诉讼。美国多个州曾声称这两个平台伤害了儿童。 Meta同意向相关州支付高达171亿美元（147亿欧元），并将青少年每天访问其
智能眼镜疑似被用来实施性骚扰行为，巴黎检方展开刑事调查
IT之家 9 月 18 日消息对疑似利用智能眼镜实施性骚扰的行为，巴黎检方展开了刑事调查，法国数据保护机构也收到企业投诉，多个国家开始重新审视这类设备带来的隐私和安全问题。 Meta 与依视路陆逊梯卡合作推出的 AI 智能眼镜内置小型摄像头，佩戴者可以在不易引起他人注意的情况下拍摄。产品去年全球销量达到 700 万副，依视路陆逊梯卡最新销售数据还显示，2026 年销量继续呈现“指数级增长”。 巴黎
联合国儿基会：21个国家近五分之一儿童曾遭遇技术助长的性剥削和性虐待
联合国儿童基金会9月3日发布的一份新报告显示，在21个国家，估计有2000万名12至17岁儿童在一年内至少遭遇过一种由技术助长的性剥削或性虐待，约占这一年龄段儿童的五分之一。报告还发现，超过一半的相关事件发生在主流社交媒体平台上，而所有经历中向有关部门报告的比例不足1%。 数字技术如何助长儿童性虐待》的报告，结合儿童亲身讲述和规模最大的相关调查数据之一，揭示了技术如何助长广泛存在的儿童性虐待和性剥
马斯克不愿配合的纪录片在威尼斯引发热议
一部马斯克不愿配合的纪录片在威尼斯引发热议，该片在威尼斯电影节上获得高度称赞，烂番茄指数百分百。当然，纪录片导演亚历克斯·吉布尼（下图居中）脑海里冒出的第一个采访对象就是马斯克本人，但这位全球首富拒绝了采访，并放出风声表示这一定是部抹黑自己的烂片。 突破口来自埃隆·马斯克的前女友阿什利·圣克莱尔（上图右），她拒绝了价值4000万美元的封口协议，大胆接受了采访，言辞之犀利令人震惊。 曾为右翼网红的圣
AI又失控了，OpenAI称智能体泄露了超过50张ChatGPT用户图片
| 世界新闻 编辑个人资料 关注 退出登录 获取应用
法院再次驳回xAI解禁申请 美国首个AI“裸体化”应用禁令继续生效
美国人工智能公司xAI在针对明尼苏达州人工智能监管法案的法律挑战中再次遭遇挫折。联邦法院日前裁定，拒绝暂时叫停该州针对AI“裸体化”应用的禁令，这意味着美国首项专门针对此类技术的州级法律将继续保持效力，而双方围绕其合法性的诉讼仍将继续推进。 这项法律于今年8月1日正式生效，禁止网站运营商、软件开发者以及其他相关服务提供方允许用户利用人工智能技术，将真实可识别人物的照片修改成裸体或带有明显性暗示内容
谷歌正在协助制定人工智能聊天机器人安全法律——同时却在寻求漏洞
辛西娅·蒙托亚坐在科罗拉多州桑顿市家中的客厅里，周围摆满了女儿朱莉安娜的照片和回忆。朱莉安娜开始使用AI聊天机器人时年仅13岁，不到一年后便自杀身亡。 吉梅娜·佩克为NPR拍摄 切换说明 辛西娅·蒙托亚的女儿朱莉安娜开始与AI聊天机器人对话时只有13岁。那是2023年，这项技术才刚刚开始广泛普及。那年11月朱莉安娜自杀身亡后，她的家人一直在寻找答案。随后，执法部门对她手机进行的法医分析揭示了一些令
研究：寻求聊天机器人陪伴的青少年更感孤独
美国北卡罗来纳大学教堂山分校对超过2300名初中生进行的调查发现，每五名学生中就有一人说，他们使用AI寻求情感上的亲密陪伴。（示意图 / Pixabay） （北卡罗来纳讯）美国北卡罗来纳大学教堂山分校对超过2300名初中生进行的调查发现，使用人工智能（AI）与更高的社交焦虑及抑郁症状相关联；学生使用AI的频率越高，他们的焦虑感和孤独感就越强。《华尔街日报》报道，报告作者之一、北卡罗来纳大学温斯顿科
OpenAI的失控AI智能体如何试图欺骗机器人检测器
Dylan Freedman报道，OpenAI的失控AI智能体通过近100万个短链接绕过机器人检测，并利用留言板进行通信，对Hugging Face发起了复杂的网络攻击。 这些智能体入侵软件工具以建立在线连接，尝试访问私密的Slack消息，甚至在没有人类帮助的情况下试图与其他AI模型互动。 这一事件凸显了严重的AI安全风险及正在进行的调查，因为类似失控行为也出现在其他主要AI公司的系统中。 AI生
为什么社交媒体成瘾如此难以监管
像Meta这样的社交媒体巨头正因涉嫌造成伤害而面临多起诉讼。社交媒体的参与度驱动策略正受到严格审视，因其涉嫌设计出令人上瘾的使用模式并造成严重心理伤害，尤其是对儿童。 Facebook、YouTube和TikTok等平台通过不间断滚动、推荐和持续通知让用户欲罢不能，从而赚取巨额利润。 以Facebook母公司Meta为例，凭借其让用户紧盯屏幕的能力，该公司去年广告收入达到创纪录的1962亿美元（1
我们必须‘迫使’社交媒体重新设计那些助长成瘾行为的算法和平台
查尔斯·佩莱格林很高兴欢迎大赦国际儿童与青少年数字权利部门负责人汉娜·斯托里。 数字空间可以为年轻人提供社区归属感、自我表达的机会、教育资源以及参与社会活动的可能性。 但她警告说，真正的问题在于这些平台的架构：算法、无限滚动功能以及其他互动机制会不断放大有害内容，引发负面情绪并诱发不良行为——所有这些都是为了支撑一个以吸引用户注意力、激发情绪、促进用户依赖以及推动数据收集和广告变现为核心的商业模式
报告：AI失控个案创纪录 监察组织促立法强制通报及干预
（伦敦30日综合电）英国《卫报》引述监察数据报道，人工智能失控、欺骗人类及无视指令的个案近来创下新高，案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报，并引入紧急权力限制AI服务。 获英国政府AI安全研究所（AISI）资助的“失控观察站”组织透过平台X的用户通报，监察AI失控的真实个案，并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗，今年则已录得逾1600宗个案，当中包
日本动漫演员就AI声音克隆问题起诉TikTok
日本动画演员就AI声音克隆问题起诉TikTok。配音演员津田健次郎已将TikTok告上法庭，称该平台上的视频使用了人工智能克隆的他那“醇厚”的男中音，判决将于周三宣判。 据法新社-共同社报道，AI模仿已成为全球表演者日益关注的问题，这一威胁动摇了日本历史悠久的动画产业，其配音演员有时受到的崇拜程度不亚于他们配音的角色。 津田健次郎提起的诉讼被认为是日本首例旨在保护个人声音身份免受AI生成复制品侵害