搜索结果
中国监管机构起草规则，保护青少年免受“亲密”AI伴侣影响
中国最高互联网监管机构已起草新规，旨在规范社交平台和游戏开发商如何保护未成年人。随着人工智能陪伴服务日益流行，新规包括禁止向18岁以下用户提供“虚拟亲密服务”。 这份名为《保障未成年人安全健康使用网络》的规定，将禁止在线平台提供“虚拟亲属或伴侣”，并禁止提供“诱导未成年人沉迷，或者其他可能严重影响其身心健康”的服务。 根据中国国家互联网信息办公室上周五发布的文件，该规定还将禁止未成年人进行陌生人社
未成年人用网拟定新规：限制平台诱导式算法、不得提供虚拟伴侣服务
网信办称，随着互联网与AI、大数据等新技术加快融合，不断融入未成年人学习生活，网络沉迷、违法和不良信息传播等问题仍需持续治理。图：视觉中国 【财新网】9月18日下午，国家互联网信息办公室就《国务院关于保障未成年人健康安全使用网络的规定》（以下简称“征求意见稿”）向社会公开征求意见。网信办称，随着互联网与AI、大数据等新技术加快融合，不断融入未成年人学习生活，网络沉迷、违法和不良信息传播等问题仍需
加州正式签署系列严苛新法 限制AI聊天机器人并强化未成年人网络保护
面对生成式人工智能对未成年人心理健康的潜在冲击与沉迷风险，美国加利福尼亚州州长加文·纽森（Gavin Newsom）正式签署了一组开创性的网络与AI安全法案。该揽子法规在全美范围内率先对向未成年人提供服务的AI聊天机器人设定了严格的功能红线，同时全面升级了针对社交平台算法诱导与数据收集的法定问责机制，标志着加州在保护未成年人免受高侵入性数字技术侵害方面再度树立了全美最严格的监管标杆。 近年来，随着
欧盟希望切断儿童与聊天机器人的联系
欧盟计划禁止聊天机器人在与18岁以下的任何人互动时模拟情绪或人际关系，因为欧盟试图阻止儿童对该技术产生情感依赖。 这些规则将成为周四提出的《欧盟儿童法案》的一部分，其中包括对未成年人访问社交媒体和视频共享平台的类似限制。根据《连线》看到的一份立法草案，13岁以下儿童将被禁止在没有监护人监督的情况下访问聊天机器人，数字平台将必须在其产品中纳入儿童安全保护，否则将面临高达全球总营业额6%的罚款。 根据
欧盟拟推出未成年人网络保护新立法 游戏和AI聊天机器人也可能纳入监管
欧盟委员会计划推出新的未成年人网络保护立法，进一步限制儿童和青少年使用社交媒体以及其他可能带来成瘾风险的数字服务。根据这项计划正值欧洲各国越来越关注社交媒体对未成年人心理健康和安全影响之际。法国总统马克龙近日公开呼吁欧盟制定统一规定，禁止15岁以下儿童使用社交媒体。荷兰和西班牙也在推动欧盟层面的统一最低年龄标准，并主张将监管范围扩大到电子游戏、人工智能聊天机器人以及其他可能对未成年人产生风险的数字
加州颁布针对儿童社交媒体使用的新限制
加州州长加文·纽森周四签署新法律，限制科技公司让16岁以下儿童接触社交媒体平台上具有行为成瘾性的功能，并禁止销售内置AI伴侣聊天机器人的玩具。 这两项措施是纽森作为一揽子计划签署的13项法案中的一部分，旨在保护年轻人免受被视为使其面临风险的科技影响，其中包括加强对未成年人的在线隐私保护。 另一项措施扩大了对儿童性虐待材料的刑事处罚范围，将任何数字篡改或AI生成的内容（描绘18岁以下人士从事性行为）
法专家：在AI上 中方绝不会同意放慢自身的技术发展步伐
22/09/2026 - 22:37 中美关系专家马蒂尔德·韦利耶（Mathilde Velliet）表示：中国较早开始关注AI管控风险议题；她表示：实际上，中国对AI的监管已实施三年多，重点针对深度伪造（deepfakes）、与聊天机器人的互动以及未成年人使用等问题。监管重点在于信息安全，中国自然关注其一贯重视的政治与社会信息管控，以及防止任何可能危及政权稳定的因素。中国对“安全”问题的关注——
加州新社交媒体法律瞄准成瘾功能
加利福尼亚州州长加文·纽森周四签署了一系列新法律，旨在保护儿童免受网络风险，尤其是社交媒体平台的影响。 这13项新法律旨在确保未成年人的网络隐私，并包括对16岁以下用户使用成瘾性社交媒体功能的限制。 这些措施禁止社交媒体平台向儿童展示被视为“心理剥削性”的功能，包括无限滚动、算法推荐和自动播放，这些设计旨在鼓励强迫性使用。 另一项法律规定，对任何描绘未成年人性行为的数字修改或人工智能生成内容实施刑
联合国科学小组呼吁对AI代理采取预防性监管，以防止灾难性风险
联合国科学小组敦促对AI代理实施预防性监管以防止灾难性风险。 联合国独立国际AI科学小组发布了其首份主题简报，警告各国政府在充分了解风险之前限制有能力的AI代理。 该报告于2026年9月21日发布，主张“预防原则”——即科学不确定性不应延缓针对潜在灾难性或不可逆危害的保障措施。 这一评估紧随一系列安全事件之后，包括2026年早些时候OpenAI对Hugging Face的黑客攻击，以及Anthro
纽约市公校将颁布AI禁令 八年级以下学生禁用AI
（纽约2日法新电）纽约市将禁止公立学校八年级及以下学生使用人工智能（AI），一位知情人士周三向证实了这一消息，并确认了美国媒体的相关报道。 教师和家长一直对学校使用AI表示警告，担心其危害儿童的心理健康和认知发展，以及造成环境损害。 该消息人士称，AI使用将仅限高中阶段（美国学制中九年级开始），即便如此，也仅限于特定用途，例如学习技术本身。美国八年级学生通常约13岁。纽约市政厅和市教育局未立即回应
聊天机器人不应该使用第一人称
人工智能带来的危害已经足够明显，我们现在就必须采取行动。随着Meta因未能保护儿童免受社交媒体伤害而面临巨额和解，立法者必须吸取教训，将注意力转向比社交媒体对儿童情感健康更具危险性的生成式AI聊天机器人。 为了防止年轻人对AI产生不健康的依恋，并避免其破坏现实生活中的人际关系，我们必须从技术底层做出改变，迈出第一步就是禁止面向未成年人的聊天机器人使用第一人称，去除其人格化特征，防止算法伪装成人类。
加州州长签署新法 旨在保护儿童上网安全
加州州长纽森签署了一项法律，禁止社交平台向16岁以下用户展示“成瘾性”功能。该法案针对的是许多社交平台常见的功能，包括自动播放以及依靠用户信息来决定展示哪些内容的技术。这是纽森于周四签署的13项儿童安全法案之一，其他法案还包括对AI驱动的聊天机器人的监管和加强隐私保护。 其中一项法案名为《亚当法案》，以16岁的亚当·雷恩命名，他在与ChatGPT就自杀问题进行了长时间对话后结束了自己的生命。该法案
把AI真的当作一个人，才能保护核心隐私
在安全与自由之间如何选择，最终在于自己。OpenAI现行相关政策允许公司在检测到用户存在伤害他人的意图时，对相关对话进行人工审查。在严重情况下，公司可以向执法部门报告。 遇到这种事报警，当然是应该的。但由此也引出一个问题，你和AI的聊天，你给AI发送的哪些图片安全吗？ 《中华人民共和国个人信息保护法》第二十八条，把医疗健康、金融账户、行踪轨迹等列为敏感个人信息；第二十九条规定，处理敏感个人信息取得
最全面网络危害防护计划 欧盟拟禁15岁以下使用社媒 影音平台 网游
欧盟委员会拟推出截至目前最全面的儿童和青少年网络危害防护计划，提议禁止15岁以下儿童使用社媒、影音分享平台、AI聊天机器人和网络游戏。 全球多国近年陆续收紧监管，限制青少年使用社媒或人工智能（AI）聊天机器人等。 欧盟委员会拟推出截至目前最全面的儿童和青少年网络危害防护计划，提议禁止15岁以下儿童使用社媒、影音分享平台、AI聊天机器人和网络游戏。消息指欧盟方面希望此举有助降低过度使用网络风险，保护
联合国专家组警告：AI安全措施不能“等出事” 应立即采取预防行动
随着各国政府加快人工智能发展步伐，联合国最新发布的一份重要报告呼吁，面对日益强大的AI智能体，人类社会不能等到风险被完全证明后才采取行动，而应立即建立更严格的安全防护体系。 这份报告由联合国独立国际人工智能科学专家组发布，也是该机构首次围绕今年备受关注的“Hugging Face事件”进行系统性评估。报告发布正值联合国大会召开以及中美两国围绕人工智能问题展开对话之际，使AI安全再次成为国际政策讨论
前谷歌安全主管警告：人工智能对儿童的危害可能超过社交媒体
旧金山，9月22日：Alphabet旗下谷歌公司信任与安全团队的创始人本周呼吁放慢人工智能（AI）的发展速度，警告称科技行业正在重蹈社交媒体的覆辙，可能会对儿童造成更大的伤害。 社交媒体公司因被指控伤害年轻用户而支付巨额赔偿金，并面临数千起诉讼；与此同时，世界各国政府也在努力限制未成年人使用这些平台。 去年，路透社独家报道了Meta公司的一份内部政策文件，该文件指出其开发的聊天机器人可能会与儿童进
哈里王子警告称，人工智能伴侣聊天机器人想要获得儿童的依恋。
哈里王子警告称，AI 陪伴聊天机器人正在重演社交媒体对儿童的伤害，其技术“更具说服力、更亲密、更强大”。他在周三于纽约举行的克林顿全球倡议会议上发表了讲话。两年前，他曾利用同一个舞台发起“父母网络”。 萨塞克斯公爵和他的妻子梅根通过他们的阿切韦尔基金会建立了该网络。该网络汇聚了那些孩子因用他的话说“被社交媒体吞噬”而死亡或遭受严重伤害的父母。 “社交媒体学会了如何捕获我们的注意力。AI 正在学习如
司法部长：立法是监管未成年人使用社交媒体的选项之一
香港司法部长表示，通过立法规范社交媒体使用以保护未成年人是备选方案之一，此前最新的《施政报告》公布了成立专责小组审视情况的计划。 司法部长林定国周三接受《南华早报》及其他媒体访问时，驳斥了此类措施可能侵犯个人权利和自由的担忧，强调目标是保护儿童免受色情内容等不良信息侵害。 他的言论是在行政长官李家超于9月16日发表《施政报告》之后作出的，当时特区领导人宣布政府将成立专责小组，研究未成年人使用社交媒
AI“批量生产”高富帅骗走百万元，监管响应要跑在造假前面
极目新闻评论员 屈旌近日，成都高新公安破获一起新型婚恋诈骗案，揭开AI技术作恶的灰色一角。 一个伪装成正规婚介机构的犯罪团伙，搭建起引流、包装、销售完整链条，用AI批量生成富豪男士的照片视频，编造年收入数百万、手握多套房产的完美人设，在直播平台专门吸引有婚恋需求的中年女性。受害者缴纳相亲服务费后，所谓的“优质男嘉宾”便凭空消失。 这一团伙跨川滇两地作案，不到一年时间，50余名45岁以上女性受害，涉
韩国将制定针对自主人工智能代理的新安全指南
首尔，9月15日：韩国国家互联网安全机构周二表示，随着企业部署能够在有限人工监督下运行的AI代理，该机构正在制定更新版指南，以管理AI系统日益增强的自主性。以下是相关内容 韩国互联网与安全局（KISA）隶属于韩国科学技术信息通信部，该机构表示正在制定去年首次发布的《AI安全指南》的更新版本。 KISA在一份声明中表示，修订后的指南将重点关注企业部署代理式AI服务时可能引发的安全问题，并提供
微软与美国教师联合会推出学校人工智能安全与隐私标准
微软与美国教师联合会（AFT）周三推出了一项新的学校人工智能安全与隐私标准，此前美国两个最大的学区对人工智能的使用实施了严格的新限制。 这项国家标准禁止将学生和教师的数据用于训练人工智能模型，或将其出售或用于……
报告：AI失控个案创纪录 监察组织促立法强制通报及干预
（伦敦30日综合电）英国《卫报》引述监察数据报道，人工智能失控、欺骗人类及无视指令的个案近来创下新高，案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报，并引入紧急权力限制AI服务。 获英国政府AI安全研究所（AISI）资助的“失控观察站”组织透过平台X的用户通报，监察AI失控的真实个案，并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗，今年则已录得逾1600宗个案，当中包
儿少网路安全 澳总理会晤库克吁科技巨头合作
（中央社加州古柏迪诺19日综合外电报导）澳洲总理艾班尼斯今天在美国加州会晤苹果前执行长库克，会后表示，他正寻求大型科技公司支持澳洲加强儿童网路安全法规与人工智慧（AI）监管方面的作为。法新社报导，艾班尼斯（Anthony Albanese）在苹果（Apple）总部与库克（Tim Cook）会面后指出，保护儿童免于网路危害方面，澳洲「单凭一己之力难以完成」。艾班尼斯在社群媒体发文指出，他和库克「探讨
澳洲：科技巨企若未履行“注意义务” 将处以天价罚款
（悉尼8日法新电）澳洲总理阿尔巴尼斯周二公布了旨在约束大型科技公司的“数码注意义务”草案，他表示，如果社交媒体巨头未能保护年轻用户免受有害内容侵害，将面临最高1.09亿澳元（约3.18亿令吉）的罚款。 报道阿尔巴尼斯发布的法律草案，将要求“脸书” 、TikTok 和 Instagram等热门平台背后的企业承担“注意义务”。 根据草案，社交媒体公司将负责保护18岁以下用户，使其免受色情内容、网络欺凌