David Robinson, ein langjähriger Sicherheitsmitarbeiter von OpenAI, hat das Unternehmen verlassen und in einem Beitrag im Magazin »The Atlantic«  schwere Vorwürfe gegen den Umgang des Unternehmens mit der Sicherheit von künstlicher Intelligenz erhoben.

Robinson warf dem KI-Konzern vor, bei der Entwicklung immer leistungsfähigerer Systeme zu schnell vorzugehen. »Die Zeit für Versuch und Irrtum ist vorbei«, schreibt er in dem Artikel.

Seiner Meinung nach sind bei fortgeschrittenen KI-Systemen Sicherheitsvorkehrungen erforderlich, die eher mit denen in Bereichen wie der Atomkraft oder der Luftfahrt vergleichbar sind.

»Iterative Bereitstellung«

Robinson war eigenen Angaben zufolge dreieinhalb Jahre bei OpenAI tätig. Er war demnach an der Entwicklung des sogenannten Preparedness Frameworks beteiligt und betreute Sicherheitsberichte zu zwölf Starts sogenannter Frontier-Modelle (mehr dazu, welche KI-Begriffe Sie kennen sollten, erfahren Sie hier ).

OpenAI setzt bei der Entwicklung seiner Modelle unter anderem auf einen Ansatz, den das Unternehmen als »iterative Bereitstellung« bezeichnet. Dabei werden Systeme veröffentlicht und Sicherheitsvorkehrungen angepasst, wenn im praktischen Einsatz Probleme auftreten.

Robinson kritisiert diesen Ansatz. Seiner Meinung nach reicht dieser angesichts der rasanten Entwicklung der KI nicht aus. Die Fähigkeiten der Systeme entwickelten sich schneller als das Verständnis der Forscher darüber, wie sich diese zuverlässig an menschlichen Zielen und Werten ausrichten lassen.