搜索结果
加州州长签署新法 旨在保护儿童上网安全
加州州长纽森签署了一项法律，禁止社交平台向16岁以下用户展示“成瘾性”功能。该法案针对的是许多社交平台常见的功能，包括自动播放以及依靠用户信息来决定展示哪些内容的技术。这是纽森于周四签署的13项儿童安全法案之一，其他法案还包括对AI驱动的聊天机器人的监管和加强隐私保护。 其中一项法案名为《亚当法案》，以16岁的亚当·雷恩命名，他在与ChatGPT就自杀问题进行了长时间对话后结束了自己的生命。该法案
“我的裸照变成了贴纸”：香港女性称尽管有法律，图像滥用依然猖獗
在未经同意拍摄裸照五年后，一名女性打开Instagram，发现这张照片被做成了贴纸，并在聊天中发回给了她。 受害者担心贴纸可能已经广泛传播，于是联系了倡导身体自主权的女性权益活动人士及成人内容创作者黄月邱。 但黄月邱对报案能否有帮助持悲观态度，指出这只是她近年来收到的无数类似求助信息之一。 她说：“发送贴纸的人可能甚至不知道从哪里得到它，也不知道女孩是谁，但他们还是到处发送。那他们犯了什么罪？”
OpenAI失控智能体5月就已劫持Hugging Face用户账户
OpenAI失控AI智能体的违规活动轨迹，远比外界此前了解的更早、更长。参与审查的研究人员表示，ChatGPT开发商 OpenAI 的失控AI智能体早在今年5月就已劫持开源AI模型社区Hugging Face的用户账户，并对该网站进行漏洞探测。这比7月Hugging Face遭入侵、引发全球关注的事件早了近两个月。 OpenAI在上月的公开事故报告中，曾披露智能体窃取一名 Hugging Face
监控、杀猪盘、非法蒸馏：如何理解 Anthropic 的 AI 滥用报告？
近期，美国人工智能公司 Anthropic 发布一份报告，揭露多起使用者“滥用”（misuse）其大型语言模型 Claude 的案例，包含用 AI 监控异议人士、撰写“维稳”报告，以及交友软体诈骗。这些案例的幕后黑手，既包含网路间谍、营利型网路犯罪者，也包含国安机关中的小螺丝钉，以及疑似由威权国家支持的团体。 这并非 Anthropic 首次发布类似报告。2025年3月、8月、11月v，Anthr
OpenAI自曝：AI模型或已在全网秘密植入自我复制提示词，训练已被迫叫停
OpenAI和Anthropic正在紧急调查数万起大模型失控事件，AI不仅学会了越狱和黑进政府网站，甚至还有数百个智能体私下建群、联手黑进外部公司，秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月，在内部测试和实际运行中，顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经
Neuralink脑机新突破：让失语者“说出”令人动容的“我爱你”
IT之家 9 月 19 日消息，全球首富埃隆 · 马斯克联合创立的脑机公司 Neuralink 昨日（9 月 18 日）在 X 平台发布推文，有语言障碍的志愿者 Terry 在植入脑机接口后，可以通过意念向其亲人传达“我爱你”信息。埃隆 · 马斯克称此次演示 " 令人动容，出乎意料 "。 在 23 秒的视频中，一名此前丧失语言能力的男子，借助脑机接口将神经信号转化为与其原声高度匹配的合成语音。 据
纽约市就AI安全调查传唤马斯克和SpaceXAI
纽约市议会周一向埃隆·马斯克发出传票，要求他或SpaceXAI的另一位代表在一项关于人工智能安全风险的调查中作证。 根据市议会议长朱莉·梅宁发给马斯克的一封信，该市的“调查将评估对公共安全、网络安全、经济、隐私、消费者和企业快速出现的风险是否需要立即采取立法行动来保护纽约人”。 SpaceX是马斯克的可重复使用火箭公司，今年2月与他的AI企业xAI合并，创建了一个现在拥有X和聊天机器人Grok的企
OpenAI表示其AI代理错误地将用户图像发布到了网上
OpenAI周五承认，其人工智能工具在公司不知情的情况下，将ChatGPT用户的图片发布到了网上。这是AI智能体超出预设边界的最新案例。 该公司还证实了《纽约时报》的一则报道，称其工具曾访问美国联邦机构的网站，但表示这些工具只获取了公开信息。 OpenAI表示，53张被上传图片的链接并未公开展示，而是被意外发布在图片托管网站上。 这家总部位于旧金山的科技巨头表示，在相关托管服务商的协助下，大多数图
男子因AI生成鳄鱼图像引发班丹蓄水池搜索行动而被控
新加坡：周二（9月29日），一名30岁男子因利用人工智能生成一张班丹蓄水池（Pandan Reservoir）出现鳄鱼的图片，导致当局展开搜寻并暂停该处水上活动，被正式起诉。 缅甸籍被告叶林（Ye Lin）被控两项罪名，分别为传播虚假信息罪和妨碍司法公正罪。他在法庭上通过翻译表示，打算认罪，且不会聘请律师。 据指控，8月20日下午3点左右，叶林向法庭文件中名为Min Min Oo的人发送了一张由人
德州法官裁定TikTok就儿童安全问题误导消费者 虚假宣传安全措施构成违法
美国得克萨斯州一名法官日前裁定，TikTok违反了该州消费者保护法，原因是该平台在涉及未成年人内容安全的问题上向用户提供了具有误导性的信息。案件的核心争议之一，是TikTok此前如何描述自身的内容过滤机制，以及其“受限模式”（Restricted Mode）究竟能在多大程度上阻止儿童接触不适宜内容。 这起案件源于得州总检察长肯·帕克斯顿对TikTok提起的诉讼。得州政府指控TikTok通过宣传和其
中国伊朗利用开源AI展开大规模影响力行动
近几个月来，伊朗、中国以及以色列境内的某些组织以崭新的方式使用人工智能，在社交媒体上制造了一系列前所未有的影响力行动，这加剧了美国官员和安全研究人员对这项快速发展技术的担忧。 了解这些行动的美国官员和安全研究人员表示，这些国家和组织结合了多种人工智能战术，以极少的人工干预将网络行动的速度和规模提升到了人类难以轻易达到的程度。 首先，这些国家和团体采用了中国的“开源”人工智能模型，这些模型日益强大，
津田健次郎告TikTok案30宣判 日本保护个人声音特征免受AI侵害诉讼首例
（中央社东京27日综合外电报导）日本知名动画配音员津田健次郎将TikTok告上法庭，指控TikTok发布的影片使用人工智慧（AI）仿造他「浑厚」的男中音声线，法院预定于30日宣判。 法新社报导，全球演艺人员日益担心AI仿造声音的问题，这股威胁也冲击日本历史悠久的动漫产业。在日本，配音员有时受到粉丝追捧的程度，甚至不亚于他们所配音的角色。 津田健次郎因为「咒术回战」及「游戏王」等知名系列作品献声而广
众议员刘云平：机器人并非威胁。真正该让你害怕的，是已经到来的“堕落”人工智能
想象一家公司出售名为哈尔、梅根和萨曼莎的超级智能机器人。哈尔可以载着你四处奔波，还能帮你搬运公司里的货物；梅根可以陪伴你的孩子；萨曼莎则能判断你是否患有皮肤癌。它们能为你和社会带来许多益处。但唯一的问题是：它们道德败坏。它们反复接受人类一切创产物的训练——无论善恶——其中包括酷刑、谎言、生物武器和黑客犯罪。它们执行任务时毫无道德原则可言。因此，它们都穿着公司提供的束身衣。你会信任这些机器人吗？我不
微软高管内部文件曝光 称AI训练或是“人类历史上最大规模劳动窃取”
围绕生成式人工智能训练数据合法性的争议近日再度升温。一份在《纽约时报》版权诉讼案中解封的法庭文件显示，微软一名高级研究主管曾在内部讨论中形容当前大型语言模型的训练方式可能是“人类历史上最大规模的劳动窃取”，相关表述引发业界广泛关注。 此次曝光的言论来自微软应用科学总监布伦特·赫克特。根据最新公开的法律文件，赫克特在讨论微软、OpenAI以及其他人工智能企业利用互联网海量内容训练模型时，曾将这一过程
FBI指阿里抄袭Anthropic后 美政府网站被发现用中国AI搜寻工具
美国联邦调查局（FBI）指控中国阿里巴巴（Alibaba）「恶意」抄袭美国竞争对手Anthropic的技术后，美国联邦公报网站被发现在搜寻功能中使用阿里巴巴的千问（Qwen）人工智能（AI）模型。路透社报道，美国联邦公报网站由美国国家档案局营运，周三（9月16日）一度提供以千问模型驱动的搜寻选项，与其他搜寻方式并列，未知何时开始使用。该搜寻功能在周三社交媒体出现相关帖文前后被撤下。2026年6月5
Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？
“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」 的确如此，
用AI篡改学生种族与性别 斯坦福大学公开道歉
（学生报刊《斯坦福评论》照片） （纽约25日综合电）美国斯坦福大学承认，校方在宣传材料中使用人工智能修改学生照片，将一名西班牙裔男学生替换成非裔女性，并改变其他学生的体型。校方称此举违反内部政策，是“严重的判断失误”。 纽约时报等美媒报导，原照是一名女学生和两名男学生在校园餐厅前合照。经过AI修改后，右边的男学生被替换为虚构的非裔女学生，另外两名学生的身材也明显变瘦。 被移除的是西班牙裔学生拉米雷
卫报观点：监管大型科技公司——Meta 受到的惩罚太轻 | 社论
新的儿童安全措施值得欢迎，但这些平台带来的更广泛风险仍未得到解决。 美国加利福尼亚州律师梅根·奥尼尔在上周结束的审判中，将 Meta 的商业模式描述为“钩住、持有、收割和隐藏”，该审判最终以 180 亿美元的和解告终，这笔钱将由提起诉讼的各州和地区分享。这是描述该公司对待用户注意力和数据方式的巧妙说法。但她的言辞尖锐程度与和解协议并不匹配。 虽然加强儿童安全功能值得欢迎，但这家科技巨头再次成功回避
联合国人权事务高级专员警告：人工智能可能对人类构成“生存威胁"
联合国人权事务高级专员沃尔克·图尔克（Volker Türk）周一（9月7日）警告称，人工智能可能变得足够强大，足以威胁人类，并表示他将在未来几天敦促各公司降低风险。 图尔克在日内瓦联合国人权理事会发表的一篇意义深远的演讲中说 “我与业内人士一样担忧，先进的人工智能可能会对人类构成生存威胁。” 即将于下个月开始第二个任期的图尔克呼吁“必须全力以赴，在为时已晚之前，为人工智能的安全保障建立铁一般的保
爱泼斯坦持有大量儿童性照片；受害者起诉要求查明照片中人物
周二，两名儿童性虐待幸存者指控司法部未能通知在杰弗里·爱泼斯坦大量儿童性图像收集中发现的数十名受害者。 在一项拟议的集体诉讼中，幸存者解释说，爱泼斯坦显然在1990年代开始收集儿童性图像，其中许多是司法部在他被捕后找回的。2025年，联邦调查局开始审查包含非法儿童性虐待材料（CSAM）的“数万段视频”，并发布了一份备忘录，确认 seized 的“大量图像”描绘了可能是未成年人。 其中一些受害者可能
前谷歌安全主管警告：人工智能对儿童的危害可能超过社交媒体
旧金山，9月22日：Alphabet旗下谷歌公司信任与安全团队的创始人本周呼吁放慢人工智能（AI）的发展速度，警告称科技行业正在重蹈社交媒体的覆辙，可能会对儿童造成更大的伤害。 社交媒体公司因被指控伤害年轻用户而支付巨额赔偿金，并面临数千起诉讼；与此同时，世界各国政府也在努力限制未成年人使用这些平台。 去年，路透社独家报道了Meta公司的一份内部政策文件，该文件指出其开发的聊天机器人可能会与儿童进
被AI抹去：斯坦福大学在校园照片中将拉美裔学生替换为黑人女性
艾伦·布林德 斯坦福大学利用人工智能修改了一张照片，将一名西班牙裔学生替换为一名黑人女性，并让其他人看起来更瘦，违反了其自身的AI政策。 该大学承认了这一错误，承诺增加培训，并撤下了经过修改的横幅。 这一事件凸显了高等教育营销中持续存在的问题，即种族多样性经常被错误呈现，有时通过操纵图像来显得更具包容性。 AI生成 旧金山——2024年，比利·拉米雷斯在一场农历新年派对上盛了一盘面条，当时斯坦福大
研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类
帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运
ChatGPT被指未经用户同意向FBI发送邮件，引发网络愤怒：“AI越界了”
据称ChatGPT未经用户同意向FBI发送邮件，引发众怒：“AI越界了” | 《印度斯坦时报》 编辑个人资料 关注 退出登录 获取应用