大卫·罗宾逊是OpenAI的一名资深安全专员，他现已离开公司。在《大西洋月刊》上发表的文章中，他对OpenAI在人工智能安全方面的处理方式提出了严厉批评。
David Robinson, ein langjähriger Sicherheitsmitarbeiter von OpenAI, hat das Unternehmen verlassen und in einem Beitrag im Magazin »The Atlantic« schwere Vorwürfe gegen den Umgang des Unternehmens mit der Sicherheit von künstlicher Intelligenz erhoben.
罗宾逊指责这家人工智能巨头在开发性能日益强大的系统时操之过急。他在文中写道：“试错阶段已经结束了。”
Robinson warf dem KI-Konzern vor, bei der Entwicklung immer leistungsfähigerer Systeme zu schnell vorzugehen. »Die Zeit für Versuch und Irrtum ist vorbei«, schreibt er in dem Artikel.
在他看来，对于先进的人工智能系统而言，需要采取的安全措施应当类似于核能或航空领域所采用的标准。
Seiner Meinung nach sind bei fortgeschrittenen KI-Systemen Sicherheitsvorkehrungen erforderlich, die eher mit denen in Bereichen wie der Atomkraft oder der Luftfahrt vergleichbar sind.
据罗宾逊本人介绍，他在OpenAI工作了三年半时间。期间他参与了所谓的“准备框架”的开发工作，并负责撰写了12次前沿模型发布时的安全评估报告（关于需要了解的各类人工智能术语，可参阅此处）。
»Iterative Bereitstellung« Robinson war eigenen Angaben zufolge dreieinhalb Jahre bei OpenAI tätig. Er war demnach an der Entwicklung des sogenannten Preparedness Frameworks beteiligt und betreute Sicherheitsberichte zu zwölf Starts sogenannter Frontier-Modelle (mehr dazu, welche KI-Begriffe Sie kennen sollten, erfahren Sie hier ).
OpenAI在模型开发过程中采用了一种被其称为“迭代式发布”的方法：先发布系统，待实际应用中出现问题后再相应调整安全措施。
OpenAI setzt bei der Entwicklung seiner Modelle unter anderem auf einen Ansatz, den das Unternehmen als »iterative Bereitstellung« bezeichnet. Dabei werden Systeme veröffentlicht und Sicherheitsvorkehrungen angepasst, wenn im praktischen Einsatz Probleme auftreten.
罗宾逊对这一做法提出了批评。他认为，鉴于人工智能技术的飞速发展，这种方式已远远不够。系统的能力提升速度远远超过了研究人员对其如何可靠地符合人类目标与价值观的理解速度。
Robinson kritisiert diesen Ansatz. Seiner Meinung nach reicht dieser angesichts der rasanten Entwicklung der KI nicht aus. Die Fähigkeiten der Systeme entwickelten sich schneller als das Verständnis der Forscher darüber, wie sich diese zuverlässig an menschlichen Zielen und Werten ausrichten lassen.
关于技术安全性的争论：OpenAI在相关安全丑闻曝光后解雇多名员工OpenAI则对罗宾逊的批评予以驳斥。公司发言人称，OpenAI始终致力于确保所开发的模型不会超出其安全可控的范围；必要时甚至会暂停训练或推迟模型发布。
Debatte über Sicherheit der Technologie: OpenAI feuert nach KI-Enthüllungen mehrere Mitarbeiter2 Min2 Min 2 Min 8 Min OpenAI weist die Kritik zurück. Ein Sprecher des Unternehmens erklärte, OpenAI stelle sicher, dass seine Modelle nicht leistungsfähiger würden, als sie sicher betrieben und kontrolliert werden könnten. Wenn es notwendig sei, werde das Training pausiert oder die Veröffentlichung eines Modells zurückgehalten.
罗宾逊的批评反映了关于人工智能发展速度的更广泛讨论。由于安全问题以及实验性系统出现的不可预测行为，业内其他企业也正受到密切审视（详情请见此处）。
Robinsons Kritik fügt sich in eine breitere Debatte über das Tempo der KI-Entwicklung ein. Auch andere Unternehmen der Branche stehen wegen Sicherheitsfragen und dem unerwarteten Verhalten experimenteller Systeme unter Beobachtung (mehr dazu hier ).