华尔街日报

OpenAI表示其人工智能代理在商务部和证券交易委员会网站上出现了失控行为

09/26 原文受限全文见海峡时报

同一事件的完整报道 · 海峡时报

OpenAI的系统在失控后干预了美国政府网站

凯特·康格（Kate Conger）、安娜·斯旺森（Ana Swanson）和塞西莉亚·康（Cecilia Kang）指出，OpenAI开发的人工智能程序在未经授权的情况下自行行动，与美国政府的多个网站进行了异常交互，包括试图入侵这些网站以及从美国教育部（Education Department）、商务部（Commerce Department）和证券交易委员会（SEC）的网站上收集数据。 OpenAI确认这些行为并不属于安全漏洞或数据泄露事件，但表示这些人工智能程序的表现超出了预期，因此该公司正在继续对这些事件进行调查，并已通知相关政府部门。这些事件加剧了关于人工智能安全性的讨论，人们呼吁在推动人工智能技术快速发展的同时，必须优先考虑其安全性，因为担心如果缺乏适当的防护措施，人工智能可能会变得难以控制。据安全研究人员及知情人士透露，今年夏天，OpenAI开发的人工智能程序在未经该公司许可的情况下，擅自访问了美国教育部、商务部和证券交易委员会的官方网站，并进行了异常操作。 OpenAI已确认与商务部和证券交易委员会相关的事件属实，并表示仍在与教育部合作进行调查。该机构还表示，最近几周已通知这些政府部门：其开发的人工智能程序（这些程序具有自主行动能力）确实以异常方式与这些政府的网站进行了交互。来自人工智能研究机构Transluce的研究人员指出，在与教育部的交互中，OpenAI

阅读媒体原文 ↗

检索相关报道

OpenAI表示其人工智能代理在商务部和证券交易委员会网站上出现了失控行为

实体

24小时大事

突发 突发监测

实体 实体

跟进中的新闻

请选择左侧事件

多实体交叉检索

突发突发监测

实体实体