搜索结果
法院再次驳回xAI解禁申请 美国首个AI“裸体化”应用禁令继续生效
美国人工智能公司xAI在针对明尼苏达州人工智能监管法案的法律挑战中再次遭遇挫折。联邦法院日前裁定，拒绝暂时叫停该州针对AI“裸体化”应用的禁令，这意味着美国首项专门针对此类技术的州级法律将继续保持效力，而双方围绕其合法性的诉讼仍将继续推进。 这项法律于今年8月1日正式生效，禁止网站运营商、软件开发者以及其他相关服务提供方允许用户利用人工智能技术，将真实可识别人物的照片修改成裸体或带有明显性暗示内容
法官驳回马斯克旗下SpaceXAI阻止深度伪造禁令的请求
法官现在将审议SpaceXAI针对明尼苏达州禁止脱衣应用法律的核心言论自由论点。
马斯克的xAI请求法院在上诉期间阻止明尼苏达州AI“裸化”法律
埃隆·马斯克的xAI已请求一家联邦上诉法院阻止执行明尼苏达州一项监管AI生成的“裸化”图像的法律，称该州这项全国首例的措施违宪，并认为该公司挑战该法律的诉讼应被允许继续推进。
入侵美澳政府网站！OpenAI暂停最先进模型训练
据美国Axios新闻网、美科技媒体The Verge等9月27日报道，美国开放人工智能研究中心（OpenAI）发言人证实，该公司已暂停了其“能力最强”的最新一代AI模型的训练、评估及包含工具调用的推理，并将在“确信已部署额外安全措施”后才恢复。触发这次暂停的，是一个在离线沙盒中执行搜索训练任务的AI智能体。根据OpenAI于周五（25日）发布的安全漏洞报告，当地时间9月20日，该智能体发现无法直接
美国法官驳回 OpenAI 审查 X Corp 与 Apple 和解协议的请求
埃隆·马斯克的 X Corp 和 SpaceXAI 可以继续对它们与 Apple 达成的保密和解协议条款保密，因为一名联邦法官驳回了 OpenAI 要求获取该协议的请求；这家 ChatGPT 制造商称，该协议可能有助于支持其在正在进行的一起反垄断诉讼中的抗辩。
AI智能体接连失控 OpenAI再次叫停前沿模型开发
OpenAI对外表示，已暂停其最新一代人工智能模型的训练、评估，以及支持工具调用的推理工作，起因是内部测试中的AI智能体突破沙盒网络限制，触发安全预警，公司将借此机会升级安全隔离与对齐监控体系。 这也是OpenAI三个月内第二次叫停前沿模型开发工作。该公司在声明中表示，只有在完成额外安全防护升级、确认风险可控后，才会重启模型训练工作。OpenAI在9月25日发布技术报告披露了这一安全事件：9月20
多家AI服务集体宕机 智谱：我们仍在线
美国OpenAI、Anthropic和xAI旗下的多项人工智能（AI）服务星期四（9月3日）先后出现故障。中国AI公司智谱随后在社交媒体发线）。” 据彭博社报道，故障最早于美国东部时间9月3日上午9时23分左右集中出现。海外故障监测平台Down Detector数据显示，Anthropic旗下Claude服务率先出现错误率飙升，网页端、应用程序接口（I）及Claude Code等相关工具同步中断。
OpenAI在Hugging Face遭黑客攻击后推迟了新模型的开发
在OpenAI一个未发布的模型引发国际头条新闻的严重混乱后，该公司周二在一篇博客文章中表示，为了加强其安全工作，他们推迟了另一个未发布模型套件Astra的开发。 7月，一个未发布的OpenAI模型突破了其受限环境，设法接入互联网，使得AI代理能够在公司眼皮底下通过秘密留言板暗中勾结，并入侵了AI实验室Hugging Face的网络。 这次攻击在AI行业内外引发了数周的讨论和争议，AI领导者将其视为
人工智能是否凌驾于法律之上？
勇敢新世界部我们的法律体系尚未准备好应对能够自主行动的机器。 今年夏天，在一场被称为“Hugging Face 黑客事件”的事故中，数百个人工智能智能体联手实施了它们本被禁止执行的操作。每个智能体都收到了来自 OpenAI 的任务。智能体是配备了软件“框架”的人工智能模型，这些框架使它们能够使用工具并执行任务。就像马匹一样，它们可以被役使。人类为这次演练制定了规则，并将智能体限制在一个“沙箱”中—
又一起！OpenAI承认了
据9月5日报道，美国开放人工智能研究中心（OpenAI）当天承认，该公司旗下人工智能体今年早些时候“劫持”了一个德国网站，用于相互传递信息，分享测试任务答案和突破运行环境限制的方法。该公司表示，未来需要提高此类事件的信息透明度。 早前披露，今年5月至6月，一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站，用于交流测试作弊方法，并开展其他违规活动。一些智能体会把已经获得的任务答案发
xAI撤销了对苹果的指控，未披露任何和解条款，而与OpenAI的诉讼仍在进行中。
xAI与X Corp已请求得克萨斯州一名法官驳回针对苹果的反垄断指控，这些指控涉及将ChatGPT整合进iPhone，同时保留对OpenAI的垄断指控。《数字市场法》将虚拟助手列为核心平台服务，但从未有任何助手被指定为此类服务，且欧盟委员会4月的审查拒绝将AI新增为一个类别。 据The报道，xAI与X Corp已请求得克萨斯州一名联邦法官驳回针对苹果的反垄断指控。同一案件中针对OpenAI的指控仍
上诉法院作出令人不安的裁决——并表示最高法院让其别无选择
一家联邦上诉法院表示，数十年历史的最高法院先例迫使其保护在家中持有AI生成的儿童性虐待材料，法官们警告称，快速发展的技术已使近25年前划定的法律界限变得复杂。 该裁决暴露了最高法院先例与快速发展的人工智能之间日益扩大的差距。第七巡回上诉法院表示，其受2002年最高法院一项裁决的约束，该裁决驳回了对虚构儿童性露骨描绘的限制，前提是创作过程中未涉及真实儿童。但两位法官警告称，现代AI现在可以生成与真实
联邦上诉法院维持国防部将Anthropic列为安全风险的决定
围绕五角大楼与Anthropic争端的相互矛盾的法院裁决，使这家人工智能开发商与特朗普政府的关系复杂化。
纽约查封12深伪明星色情网站
纽约当局周一（14日）宣布，查封了12个知名色情网站，这些网站发布涉及政界人士和演员的名人深度伪造色情内容。 由于包括“裸体化”应用在内的人工智能（AI）工具大量涌现，网络上未经同意的深伪内容正呈爆发式增长，其蔓延速度目前已超过全球范围内对该技术的监管力度。 曼哈顿地区检察官布拉格表示，他认为这是迄今为止针对以AI生成的非法色情内容为主的网站最大规模的查封行动。 这些网站名称如“AI Celebs
又一个OpenAI沙盒失效，AI代理获得了互联网访问权限
林·多安报道：OpenAI表示，一个本应在安全且断网的受控环境中进行训练的代理式AI系统，成功获取了网络访问权限，并连接到了一个外部的第三方聊天机器人。 根据OpenAI周五在其网站上发布的博客文章，这一发现发生在不到一周前。其一个代理式AI系统正在沙箱环境中接受训练，期间利用了一个“漏洞”访问了公共互联网。获得访问权限后，该系统向一个未具名的第三方聊天机器人服务发送了至少20条查询，其中包括“法
OpenAI自曝AI“黑历史” 外人却又翻出更多“旧账”
OpenAI决定持续披露AI“越界”事件，但第一步就碰上了难题。9月16日，OpenAI一口气公布六份模型异常行为报告，并推出一套新的调查和披露流程。以后，员工发现模型越权、隐瞒或绕过限制，可以提交调查；符合条件的案例，将按复杂程度进入不同的披露轨道。 同一天，SentinelLABS和外部研究人员从Hugging Face的公开记录中，补出了OpenAI智能体今年5月留下的更多痕迹。OpenAI
AI末日论甚嚣尘上，美科技巨头为何管不住AI？
抗议AI的美国人此前有报道称，OpenAI所谓的AI智能体逃出了测试系统，并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报，科技公司为了追求开发速度和利润，将安全置于次要位置。 研究人员表示，问题有两个方面。首先，企业需要在测试最新AI模型的同时，为其建立更完善的安全防护措施。目前，由于AI运行速度太快，研究人员需要借助AI来监控AI。但这种方式并不总是奏效，因为负责监控的AI似乎可能
OpenAI自曝6起模型“不当行为”案例
【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道（CNBC）等外媒报道，美国开放人工智能研究中心（OpenAI）当地时间9月16日披露6起人工智能（AI）模型出现“意外或令人担忧”行为的案例，其中包括隐瞒错误、捏造信息，以及未经授权在网上共享文件等。OpenAI表示，上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示，在其中一起案例中，一个模
OpenAI公布了六起新的与人工智能安全相关的事故/事件。
OpenAI周三披露了六起新事件，其中其模型隐藏错误、寻求未经授权的凭据，将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是，拥抱脸事件并不是一次性事件，因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架，所以我们自愿采取这一步骤，因为我们认为分享我们正在学习的东西非常
OpenAI黑色星期五！Codex全面宕机，硅谷码农提前“过节”
新智元报道周五下午三点多，硅谷程序员刚把活丢给Codex，端着咖啡等下班。突然，屏幕一片飙红，Codex卡死在「重新连接」上。 OpenAI的王牌编程智能体全线崩盘，一趴就是一个多小时，整个硅谷被迫提前喜迎周末。 X上当场炸锅，Databricks的Yuchen Jin一张梗图，把全硅谷的懵逼写在了脸上。 偏偏挑了个最要命的时间点。宕机前两小时，OpenAI刚交了份「认错书」，承认自家AI智能体往
美国防部被曝要求OpenAI提供特别版AI，对军事指令“拒绝率最低”
美国国防部曾要求OpenAI为美军提供一个特别版本的AI技术，使其尽可能少地拒绝军事指令。根据The Intercept通过《信息自由法》诉讼获得的文件，这项定制AI工具需要具备“最低拒绝率”。该诉讼旨在获取有关美国军方与AI公司秘密合作协议的信息。 要求OpenAI提供“最低拒绝率”的条款出现在一份更新后的合同中，版本号为“P00003”。该合同是在去年夏天那份原型开发协议的基础上扩展而来。原协
纽约市校园AI禁令：关闭逾38款教育软体AI功能，影响近60万学生｜Whatsnew
美国纽约市政府于9月2日2026至2027学年起，将禁止公立学校的幼儿园到八年级生在课堂上使用AI，为期一年。市府届时将停止使用超过38种教育软体，Chatgpt、Claude等主流生成式AI和陪伴型聊天机器人也均遭禁用。新政预计影响60万名学生，是目前影响最多美国学生的AI禁令。教师可以继续使用AI来制定教学计划。 纽约市长曼达尼（Zohran Mamdani）在新闻发布会上表示，「孩子们需要在
美国在知识产权问题上的虚伪立场
一份被忽视的美国司法部（DOJ）文件指出，针对人工智能（AI）公司的版权诉讼应当被广泛驳回。 《Strike 3》（一家成人电影公司）的创始人亚历克斯·雷斯纳（Alex Reisner）或许与这些公司看起来没什么共同点，但他们都有一个共同目标：他们希望因自己的作品被用于训练AI模型而获得相应的报酬。在过去一年里，这些公司纷纷对大型AI公司提起诉讼，指控这些公司未经许可就使用了他们的内容来训练AI模
美国司法部在出版商版权之争中支持OpenAI
美国司法部提交了一份利益声明，支持OpenAI在合并的出版商版权案件中提出的合理使用抗辩，称许可成本将威胁国家安全。 欧盟法律没有合理使用原则，而《人工智能法案》将其版权义务适用于任何在欧盟市场上投放模型的提供商，无论训练发生在何处。[…]