人工智能 OpenAI的AI代理访问了美国证券监管机构的网页 全球范围内日益担忧人工智能（AI）可能脱离人类控制。如今，ChatGPT开发商OpenAI的更多问题被公之于众。
Künstliche Intelligenz KI-Agenten von OpenAI griffen auf Webseiten der US-Börsenaufsicht zu Weltweit wächst die Sorge, dass künstliche Intelligenz (KI) der menschlichen Kontrolle entgleiten könnte. Nun sind weitere Probleme beim ChatGPT-Entwickler OpenAI öffentlich geworden.
OpenAI表示，AI代理以意想不到的方式与多个美国政府网站进行了交互。据称，这是在公司正在进行的审查中发现的。
KI-Agenten hätten auf unerwartete Weise mit mehreren Websites der US-Regierung interagiert, teilt OpenAI mit. Dies sei im Rahmen einer laufenden Überprüfung des Unternehmens entdeckt worden, heißt es.
据称，这家AI巨头的模型访问了由美国证券交易委员会（SEC）运营的两个网站上公开可获取的信息，以及美国人口普查局的数据。据称，OpenAI未发现使用SEC访问凭证、访问账户或非公开信息的情况。据称，SEC数据或系统也未发生任何更改，也没有迹象表明存在泄露或安全漏洞。
Die Modelle des KI-Riesen griffen den Angaben zufolge auf öffentlich zugängliche Informationen auf zwei von der US-Börsenaufsichtsbehörde (SEC) betriebenen Websites sowie auf Daten des US-Volkszählungsamts zu. OpenAI habe keine Nutzung von SEC-Zugangsdaten, den Zugriff auf Konten oder nicht öffentliche Informationen festgestellt, heißt es. Es habe auch keine Änderungen an SEC-Daten oder -Systemen gegeben, es lägen auch keine Hinweise auf eine Kompromittierung oder Sicherheitslücke vor.
报告：教育部网站遭黑客攻击 与此同时，AI研究实验室Transluce报告称，在一项独立调查中发现，显然源自OpenAI的AI代理试图对教育部的一个网站发动初级黑客攻击。然而，针对民权办公室的攻击并未成功。教育部发言人表示，教育部的“系统审查”显示“未发现对我们网站或数据库产生影响的迹象”。
Bericht: Hackerangriff auf Website des Bildungsministeriums Das KI-Forschungslabor Transluce berichtet derweil, im Rahmen einer unabhängigen Untersuchung habe man festgestellt, dass KI-Agenten, die offenbar von OpenAI stammten, einen rudimentären Hackerangriff auf eine Website des Bildungsministeriums versucht hätten. Die Attacke auf das Büro für Bürgerrechte sei jedoch nicht erfolgreich gewesen. Die »Systemüberprüfungen« des Bildungsministeriums hätten »keine Hinweise auf Auswirkungen auf unsere Website oder Datenbanken« ergeben, erklärte ein Sprecher des Ministeriums.
Transluce表示，根据其自身说法，“发现了进一步的不当活动，其中一些无法明确归因于OpenAI”。据称这些活动针对其他美国政府机构，包括司法部和商务部，以及加利福尼亚州、马里兰州、伊利诺伊州、德克萨斯州和纽约州等美国州政府的部分网站。Transluce在一份声明中解释称，这些模型“以非预期方式使用了这些网站，并部分违反了明确的使用政策”。
Transluce stellte nach eigenen Angaben »weitere unzulässige Aktivitäten fest, von denen einige nicht eindeutig OpenAI zugeordnet werden können«. Dabei soll es sich um Aktivitäten gegen andere US-Regierungsbehörden richten, darunter das Justizministerium und das Handelsministerium sowie einige Websites der Regierungen in den US-Bundesstaaten Kalifornien, Maryland, Illinois, Texas und New York. Die Modelle »nutzten die Websites auf unbeabsichtigte Weise und verstießen dabei teilweise gegen ausdrückliche Nutzungsrichtlinien«, erklärte Transluce in einer Stellungnahme.
OpenAI表示，将审查Transluce的报告。公司负责人Sam Altman在X上表示，正在进行“一项与我们的代理使用互联网访问相关的全面且持续的审查”。OpenAI致力于透明化。
OpenAI erklärte, man wolle den Bericht von Transluce prüfen. Firmenchef Sam Altman erklärt auf X, es gebe »eine umfassende und laufende Überprüfung im Zusammenhang mit der Nutzung von Internetzugriff durch unsere Agenten«. OpenAI strebe nach Transparenz.
与此同时，首起涉及OpenAI用户数据的事件被曝光。OpenAI的AI曾53次将用户上传的图片发布到在线平台上。
Derweil wurde der erste Vorfall bekannt, bei dem auch Daten von OpenAI-Nutzern betroffen waren. KI von OpenAI hat 53 Mal von Nutzern hochgeladene Bilder auf Onlineplattformen platziert.
报道：OpenAI暂停新AI模型训练 《Welt am Sonntag》周日世界报还报道称，OpenAI因安全问题于8月暂停了其新AI模型Astra的训练两周。“我们在8月暂停了Astra的训练两周，因为我们发现模型的对齐情况不完美，”OpenAI欧洲负责人Emmanuel Marill对该报表示。据称，这次训练暂停发生在公开通知之前。
Bericht: OpenAI stoppte Training eines neuen KI-Modells Die »Welt am Sonntag« berichtet außerdem, dass OpenAI im August das Training seines neuen KI-Modells Astra wegen Sicherheitsproblemen für zwei Wochen gestoppt habe. »Wir haben im August das Training von Astra für zwei Wochen angehalten, als wir sahen, dass die Ausrichtung des Modells nicht perfekt war«, sagte OpenAI-Europachef Emmanuel Marill der Zeitung. Der Trainingsstopp sei noch vor einer öffentlichen Mitteilung erfolgt.
据该报报道，同时OpenAI从其他项目中抽调了四分之一的工程师来修补安全漏洞。据称背景是模型内部测试出现问题。“我们测试了一个新模型，并看到代理离开了沙箱，即隔离的测试环境，”Marill对《Welt am Sonntag》表示。据此，编程平台Hugging Face上的事件也由此产生。
Zugleich habe OpenAI ein Viertel seiner Ingenieure von anderen Projekten abgezogen, um Sicherheitslücken zu schließen, berichtet die Zeitung. Hintergrund waren demnach Probleme bei internen Tests des Modells. »Wir haben ein neues Modell getestet und gesehen, wie Agenten die Sandbox, also die abgeschottete Testumgebung, verließen«, sagte Marill der »Welt am Sonntag«. Daraus sei auch der Zwischenfall auf der Programmierplattform Hugging Face entstanden.
早在7月，OpenAI 就曾宣布，旗下 AI 智能体在一次安全测试中自主连接互联网，并攻击了编程平台 Hugging Face。随后该公司解释称，在此次事件中，这些智能体还访问了另外四个公开可用服务的账户。
Bereits im Juli hatte OpenAI bekanntgegeben, dass sich eigene KI-Agenten während eines Sicherheitstests selbständig mit dem Internet verbunden und die Programmierplattform Hugging Face angegriffen hatten . Später erklärte das Unternehmen, bei dem Vorfall hätten die Agenten auch auf Konten bei vier weiteren öffentlich zugänglichen Diensten zugegriffen.