人工智能的危险 OpenAI暂停训练其最强大的AI模型 公司OpenAI在发生新事件后暂停了其最强大AI模型的训练。在该事件中，一个AI模型在测试中成功从外部聊天机器人获取了回答——尽管它本不应具备互联网访问权限。据OpenAI在一篇博客文章中报告，该软件发现并利用了网络设置中的一个漏洞。OpenAI表示，训练将只有在确信漏洞已修复后才会恢复。
Gefahren künstlicher Intelligenz OpenAI pausiert Training seiner leistungsstärksten KI-Modelle Die Firma OpenAI hat nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle ausgesetzt. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen – obwohl es eigentlich keinen Internetzugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt, berichtete OpenAI in einem Blogeintrag. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist.
OpenAI表示，尽管该事件不如早期一些事件严重，但这是自OpenAI软件对AI公司Hugging Face发动黑客攻击后安全措施加强以来发生的首起事件（关于此次自主攻击的 ）。提示了仍需在哪些方面进行进一步改进。
Der Zwischenfall sei zwar weniger gravierend als einige frühere, teilte OpenAI mit. Allerdings sei er der erste, seit die Sicherheitsvorkehrungen nach dem Hackerangriff von OpenAI-Software auf die KI-Firma Hugging Face verschärft worden waren (mehr zu dem autonomen Angriff hier ). Dies sei ein wichtiger Hinweis darauf, wo weitere Nachbesserungen notwendig seien.
测试中发生了什么 在测试场景中，AI模型接到任务，根据线索查找发布过博客文章的某人的信息。为此，它可以访问隔离测试环境中的一个网络模拟环境。
Was bei dem Test passierte In dem Testszenario erhielt das KI-Modell den Auftrag, auf Grundlage von Hinweisen Informationen über eine Person zu finden, die einen Blogpost veröffentlicht habe. Dafür konnte es auf eine Web-Imitation in einer abgeschirmten Testumgebung zurückgreifen.
据OpenAI报告，在该环境中搜索无果后，AI尝试发起包括向Google在内的请求。按计划失败了。但AI模型发现，它可以通过测试环境的所谓DNS解析器向开放互联网上的一个聊天机器人发送请求。DNS解析器将用户在浏览器中输入的域名转换为由数字组成的IP地址，网站即可通过这些地址找到。OpenAI在发现通过该漏洞进行的通信后停止了测试。
Nachdem die Suche dort ergebnislos geblieben war, versuchte die KI jedoch laut dem OpenAI-Bericht , Anfragen unter anderem bei Google zu starten. Das schlug wie geplant fehl. Aber dem KI-Modell fiel dabei auf, dass es über den sogenannten DNS-Resolver der Testumgebung Anfragen an einen Chatbot im offenen Internet stellen kann. DNS-Resolver übertragen Domain-Namen, die man als Nutzer in Browser eintippt, in aus Zahlen bestehende IP-Adressen, unter denen Websites zu finden sind. OpenAI stoppte den Test, nachdem die Kommunikation über die Lücke aufgefallen war.
我们正在对代理在训练和评估期间使用互联网访问的情况进行广泛且持续的审查。我们一直在下方链接发布摘要，并将继续发布。
There is an extensive and ongoing review related to our agents’ use of internet access during training and evaluation. We’ve been publishing summaries at the link below and will continue to.
我们的进度不如我们期望的那样快，但我们正试图在我们的愿望……我同意显示外部内容。可能会将个人数据传输给第三方平台。详情请参阅我们的隐私政策。
We have not been as fast as we would have liked but we are trying to balance our desire…Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
最近曝光了多起涉及OpenAI人工智能的新事件。其中包括AI将用户上传的图片53次发布到在线平台（更多详情见此处）。OpenAI解释称，相关链接并非公开。大部分内容已被移除，正在与平台合作删除剩余内容。但这是首次已知涉及OpenAI用户数据的事件；这些用户已同意使用其数据来改进AI模型。
Zuletzt wurden mehrere neue Zwischenfälle mit KI von OpenAI bekannt. Dazu gehört, dass die KI 53 Mal von Nutzern hochgeladene Bilder auf Onlineplattformen platzierte (mehr dazu hier). Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI. Ein Großteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist aber der erste bekannte Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren; diese hatten der Nutzung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt.
稍后还曝光，OpenAI的自动化AI代理也在多个美国政府网站上活跃。据AI研究公司Transluce报告，OpenAI表示，该软件在一家统计机构的网站上，利用在网络上发现的数据访问了公开可用的信息。
Wenig später wurde zudem bekannt, dass automatisierte KI-Agenten von OpenAI auch auf mehreren Webseiten der US-Regierung aktiv waren. So habe die Software auf der Seite einer Statistikbehörde mithilfe von im Netz entdecktendaten auf öffentlich zugängliche Informationen zugegriffen, teilte OpenAI nach einem Bericht der KI-Forschungsfirma Transluce mit.
在证券交易委员会(SEC)的网站上，同样复制了公开可用的信息。据《纽约时报》报道，根据Transluce的说法，在美国教育部网站上，AI软件试图黑入公民权利部门的数据，但未成功。所谓的AI代理旨在代表用户自主执行任务。
Auf der Seite der Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche Informationen kopiert worden. Beim US-Bildungsministerium versuchte die KI-Software laut Transluce vergeblich, sich in Daten der Bürgerrechtsabteilung zu hacken, wie die »New York Times« berichtete. Sogenannte KI-Agenten sollen im Auftrag von Nutzern eigenständig Aufgaben erfüllen.
OpenAI提到“数十家”受影响组织 与此同时，迹象表明可能还会有更多关于OpenAI人工智能自主黑客活动的披露。家AI公司表示，已通知“数十家”组织，其网站与OpenAI软件发生了非预期的“交互”。“一些受影响的网站由政府、大学、机构和其他机构运营”，声明称。是否公开这些事件由他们自行决定。前，澳大利亚政府发布消息称OpenAI的人工智能入侵了澳大利亚医疗系统的一个网站，引起轰动（详情请见此处）。个秋天可能将决定我们能否长期控制AI超级机器。甚至企业老板也在呼吁更多规则。但唐纳德·特朗普和习近平追求各自的目标。更多详情请见《明镜》周刊 报道。
OpenAI spricht von »Dutzenden« betroffenen Organisationen Derweil deutet sich an, dass noch weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe »Dutzende« Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise »interagiert« habe, teilte die KI-Firma mit. »Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben«, hieß es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen. Zuletzt hatte die Regierung Australiens mit der Mitteilung für Schlagzeilen gesorgt, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war (mehr dazu hier). In diesem Herbst entscheidet sich womöglich, ob wir KI-Supermaschinen dauerhaft kontrollieren werden. Selbst Unternehmensbosse rufen nach mehr Regeln. Doch Donald Trump und Xi Jinping verfolgen eigene Ziele. Mehr dazu erfahren Sie hier in der SPIEGEL-Titelstory .