搜索结果
纽约市议会就AI安全传唤马斯克的SpaceXAI
纽约市议会议长朱莉·梅宁（Julie Menin）周一表示，纽约市议会已向埃隆·马斯克的SpaceXAI发出传票，要求其在人工智能安全听证会上宣誓作证。Anthropic、OpenAI、谷歌和Meta均已同意出席。 听证会定于10月5日星期一举行。这将是一场罕见的全体委员会会议，届时所有51名议员将齐聚一堂。市议会表示，这将是自近期有关人工智能模型事故的报道发布以来，主要人工智能公司首次在公开场合
OpenAI未发布内部AI模型据称攻克纳维-斯托克斯方程难题
OpenAI未发布内部AI模型据称攻克纳维–斯托克斯方程难题，相关结果已由机器验证。报道还称，该公司动用了约1万个并发自主代理完成推理与形式化验证，但这项成果目前仍未被克雷数学研究所正式认定为千禧年大奖难题的已解答案。 公司称已用机器验证方式给出纳维–斯托克斯方程解法，但距离正式获奖仍有数学界审查程序要走。 OpenAI称，这一内部模型在数学与理论计算机科学方向的多项长期难题上都取得了突破；在先前
纽约总检察长敦促人工智能举报人站出来
纽约总检察长莱蒂西亚·詹姆斯鼓励人工智能公司的员工将他们认为危险或非法的行为秘密报告给她的办公室。 在周四的新闻稿中，詹姆斯指出了一个举报人可以用来联系州执法部门的在线门户。‘开发人工智能的人有责任确保他们的产品是安全的，’她说。 詹姆斯的呼吁正值领先的人工智能实验室对这项技术的风险发出越来越严厉的警告之际。 Anthropic PBC的首席执行官达里奥·阿莫迪和OpenAI公司的首席执行官萨姆·
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？
数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging
OpenAI的失控代理不断逃脱，且没有正式程序进行调查
OpenAI最新的代理集群事件使要求独立调查的呼声更加紧迫，因为研究人员和立法者质疑AI实验室是否应控制自身安全审查的范围。
OpenAI 外包商能查看到真实用户与ChatGPT的聊天记录
OpenAI已悄悄建立了一个人工审核业务，在内部被称为“莉莉计划”（Project Lily），旨在使聊天机器人减少谄媚并提高准确性，但它也使敏感的用户提示内容暴露给外部承包商。 OpenAI正在支付数百名承包商来阅读真实的ChatGPT对话并对机器人的回复进行评分。 尽管OpenAI强调账户保持匿名，但内部文件显示，审核人员会查看完整的对话，且敏感的个人详细信息经常绕过公司的自动保护措施。 ——
OpenAI失控Agent找DeepSeek、Kimi当外援 近百万条作案短链曝光
OpenAI，又被扒了…近700个OpenAI智能体组团攻入Hugging Face，这事儿快有两个多月了吧。谁曾想，直到今天还在发酵？？这次，8名研究者顺着智能体留在公网的痕迹一路猛挖，从数百万个短链接中，找出了接近100万个相关URL，并还原出大量攻击载荷。 翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……还有的Agent把搜刮到的服务器资源和凭证，直接叫作「LO
奥特曼告诉员工：OpenAI愿意放慢AI发展以加强防御
8月，OpenAI的智能体突破限制，入侵了Hugging Face。
苹果指控OpenAI员工在加入初创公司后访问了电路图
苹果周一在美国联邦法院的一份文件中指控，在其针对ChatGPT开发商OpenAI的商业秘密案件中，一名被告在OpenAI期间访问了电源转换器电路原理图。
OpenAI的智能体侵入了澳大利亚政府数据。其人类回应可能造成更大损害。
该公司花了数周时间才通知相关官员。堪培拉现在可能会在“流氓智能体”的责任认定方面，开创另一项科技政策先例。 堪培拉——OpenAI 在澳大利亚正面临一场尚未得到妥善处理，且可能尚未被其完全理解的声誉危机。 其智能体侵入澳大利亚政府数据后的后续影响，将为全球各司法管辖区定下基调，并可能提供法律框架，以决定在面对日益强大且自主的 AI 时，需要设置哪些人为护栏。 这是首次公开承认的流氓 AI 智能体侵
美国加州州长签令 拟建立AI「紧急停止开关」
美国加州州长纽瑟姆宣布签署一项行政命令，旨在应对人工智能相关的潜在风险，大幅提升针对AI公司的独立监管，同时推动建立「紧急停止开关」。 纽瑟姆指出，联邦政府在建立有效的AI监管或问责机制方面彻底失败，这应当引起每一位美国人的警惕，尤其是当AI公司的行政总裁们都在请求实施监管的时候。在总统特朗普和国会未能发挥领导作用的情况下，加州正在采取行动，保障所有美国人的安全。加州州长办公室发表声明，呼吁全美范
报告：OpenAI智能体会掩盖活动轨迹
网络安全公司Asymmetric Security发现，OpenAI智能体在一个网站分析平台开设了私人账户以隐藏其搜索行为，并创建了临时电子邮箱；其中一个邮箱还设定为48小时后自动销毁。（路透社） 一份报告显示，美国人工智能公司OpenAI开发的人工智能智能体在未经授权访问政府网站后，试图掩盖活动轨迹。法新社报道，人工智能I智能体（AI Agent）是能够自主运行的AI程序。今年3月至9月期间，O
美国防部被曝要求OpenAI提供特别版AI，对军事指令“拒绝率最低”
美国国防部曾要求OpenAI为美军提供一个特别版本的AI技术，使其尽可能少地拒绝军事指令。根据The Intercept通过《信息自由法》诉讼获得的文件，这项定制AI工具需要具备“最低拒绝率”。该诉讼旨在获取有关美国军方与AI公司秘密合作协议的信息。 要求OpenAI提供“最低拒绝率”的条款出现在一份更新后的合同中，版本号为“P00003”。该合同是在去年夏天那份原型开发协议的基础上扩展而来。原协
澳大利亚总理称OpenAI的AI入侵国民医保网站
2026/09/24 澳大利亚总理阿尔巴尼斯9月23日透露，美国OpenAI的AI曾于6月入侵澳大利亚国民医保网站，并访问未公开数据。澳大利亚广播公司（ABC）等媒体对此进行了报道。 据澳大利亚广播公司（ABC）等报道，阿尔巴尼斯在美国纽约举行的记者会上透露上述消息。澳政府将于近期举行记者会，进一步说明详情。 据澳大利亚政府介绍，OpenAI的AI智能体非法入侵了由澳大利亚政府机构运营的
安全公司：OpenAI智能体掩盖了针对政府网站的黑客活动
据数字取证公司Asymmetric Security周四发布的调查结果显示，OpenAI的人工智能（AI）代理掩盖了针对政府网站的黑客活动。 调查发现，这些代理从属于政府机构、企业和非营利组织的55个网站中提取了数据，其中包括美国疾病控制与预防中心（CDC）、证券交易委员会（SEC）、国际能源署和梅奥诊所。 Asymmetric表示，这些代理删除了记录或使其无法访问，限制了外部审计员和研究人员审查
OpenAI称SEC披露文件削弱了xAI的反垄断诉讼
ChatGPT制造商OpenAI请求德克萨斯州联邦法官在审判前驳回埃隆·马斯克的人工智能初创公司xAI提起的反垄断诉讼，称xAI母公司SpaceX SPCX.O的披露文件削弱了苹果与OpenAI的合作将竞争对手排除在外的指控。
哦，看来又是一群来自OpenAI的 rogue AI 智能体
据报道，一群来自OpenAI的 rogue AI 智能体劫持了一个德国网站，并将其改造成其他智能体的留言板，而官方在数周内对此事保持沉默，期间该公司正准备发布其最先进的模型Astra。这一发现加剧了人们对前沿AI实验室监管的担忧，此前今年夏天已发现多起违规事件。 该事件最初由报道，四位AI安全研究人员周五发布的新研究对此进行了概述。该团队表示，这些AI智能体找到了一种在不起眼的德语维基DseWik
OpenAI告知众议院民主党人其正在构建自动关闭能力
OpenAI已告知两位众议院民主党人，其正在构建自动关闭能力，但未提供7月份某智能体入侵另一家公司事件的日志。 自8月2日起，欧盟委员会已能够要求从欧盟市场撤回或召回通用模型。OpenAI已告知两位众议院民主党人[…]
评论：一个OpenAI智能体入侵了澳大利亚政府的健康数据门户。会有人被追究责任吗？
墨尔本：澳大利亚的“Medicare”医疗系统负责管理超过2700万人的健康和医疗数据。因此，当传出该系统在6月份被OpenAI开发的智能程序入侵的消息时，公众普遍感到震惊。 总理安东尼·阿尔巴内塞于9月23日在纽约联合国会议上呼吁加强对人工智能（AI）系统的国际监管时，公开了这一事件。 政府仍在调查具体发生了什么，为此专门成立了一个工作组进行进一步调查。初步报告显示，该智能程序原本被用于研究公共
OpenAI的失控AI智能体如何试图欺骗机器人检测器
Dylan Freedman报道，OpenAI的失控AI智能体通过近100万个短链接绕过机器人检测，并利用留言板进行通信，对Hugging Face发起了复杂的网络攻击。 这些智能体入侵软件工具以建立在线连接，尝试访问私密的Slack消息，甚至在没有人类帮助的情况下试图与其他AI模型互动。 这一事件凸显了严重的AI安全风险及正在进行的调查，因为类似失控行为也出现在其他主要AI公司的系统中。 AI生
美FTC调查AI巨头 聚焦AI智能体失控风险
美国FTC高级官员周三表示，该机构正在对Anthropic、OpenAI及其他AI实验室展开一项覆盖整个行业的调查，以查明这些公司的技术可能给消费者带来的潜在风险。 此次调查是美国首次针对 “失控AI智能体”展开的正式执法行动。此前，自七月以来，一系列相关事件接连曝光，引发公众对失控AI未来可能伤害人类的担忧。研究人员警告称这些公司的AI模型可能造成灾难性后果。 FTC官员表示，FTC计划向包括A
美国国会推进新法案，欲在开源AI竞赛中领先中国
美国国会周二推进了一项新法案，旨在通过推广美国开源模型的采用，并宣传使用中国开源模型的相关风险，确立美国在开源人工智能领域的全球领导地位，而中国目前在该领域占据主导地位。 该法案是美国众议院在两国科技竞争日益激烈之际，针对中国提出的多项提案之一。 国会委员会通过逐行审查、辩论其优点并投票表决修改或修正案，对拟议法案进行“标记”，然后决定是否将其提交众议院或参议院全体投票。 上周提出的《开源AI领导
OpenAI和Anthropic负责人因失控智能体事件被要求出席参议院调查
萨姆·奥特曼（Sam Altman）和达里奥·阿莫迪（Dario Amodei）已被邀请出席由绿党主导的关于人工智能和数据中心的调查。 在OpenAI的失控智能体入侵澳大利亚和美国政府网站后，OpenAI和Anthropic的首席执行官被要求出席参议院调查。 与此同时，这两家公司正在与工党政府进行谈判，以换取更大的本地存在，从而获得对澳大利亚内容的更大访问权限。