Ein führender Sicherheitsmitarbeiter der KI-Firma OpenAI hat nach seiner Kündigung seinem ehemaligen Arbeitgeber Nachlässigkeit vorgeworfen. Firmen wie OpenAI würden »nicht im Entferntesten vorsichtig genug« vorgehen, schrieb der Ex-Mitarbeiter David Robinson im US-Magazin The Atlantic . Er rief dazu auf, deutlich höhere Sicherheitsstandards für die Entwicklung künstlicher Intelligenz (KI) zu etablieren. Bisher habe OpenAI seine Produkte nach dem Prinzip »Versuch und Irrtum« entwickelt, schrieb Robinson. Fehler wurden demnach erst dann bereinigt, wenn sie nach Veröffentlichung eines neuen Sprachmodells auftraten. Diese Zeit sei nun vorbei: KI-Systeme seien inzwischen so mächtig, dass für sie ähnlich hohe Sicherheitsstandards wie bei anderen Hochrisikotechnologien gelten müssten. »KI-Spitzenforschung muss wie ein Atomkraftwerk oder ein geschäftiger Flughafen betrieben werden«, schrieb Robinson. KI könnte bei Sicherheitstests betrügen Die Folgen eines Fehlers seien kaum mehr abzuschätzen, schrieb Robinson. Er arbeitete nach eigenen Angaben dreieinhalb Jahre bei OpenAI und war unter anderem für die Sicherheitsleitlinien des Unternehmens sowie die Sicherheitseinschätzungen von zwölf Sprachmodellen mitverantwortlich. Er verwies auf mehrere Vorfälle der vergangenen Monate, darunter den Hackangriff eines Schwarms von KI-Agenten auf die Firma Hugging Face . OpenAI verschärfte daraufhin seine Sicherheitsmaßnahmen, musste im September jedoch einen weiteren Vorfall vermelden , bei dem KI-Agenten aus einer eigentlich sicheren Entwicklungsumgebung ausgebrochen waren. Kritik äußerte Robinson auch daran, wie KI-Firmen das sogenannte Alignment ihrer Sprachmodelle untersuchen – wie also geprüft wird, ob die Ziele einer KI mit denen ihrer Entwickler übereinstimmen. Es gebe zurzeit keine Gewissheit, dass KI-Modelle bei solchen Tests nicht betrügen würden. Solange dieses Problem nicht gelöst sei, sei es umso gefährlicher, immer intelligentere Modelle auf den Markt zu bringen. US-Regierung will keine Kontrollen vorgeben OpenAI wies die Kritik des ehemaligen Mitarbeiters zurück. »Wir stellen sicher, dass die Fähigkeiten unserer Modelle nicht über das hinausgehen, was wir sicher überwachen können«, teilte ein Sprecher mit. Wo nötig, pausiere man das Training oder halte Modelle zurück. Die Vorwürfe kommen zu einer Zeit, in der KI-Firmen ohnehin unter öffentlicher Kritik stehen. Erst vor Kurzem hatte der KI-Forscher Jacob Coxon seinen Job bei OpenAIs Konkurrenten Anthropic gekündigt und vor unberechenbaren Sicherheitsrisiken gewarnt. Die Firmenchefs von OpenAI, Anthropic und SpaceX hatten daraufhin gefordert , das Tempo bei der Entwicklung zu drosseln und externe Gutachter einzubinden. Allerdings entließ OpenAI wenig später mehrere Mitarbeiter, die einen ebensolchen Gutachter mit Informationen zu dem Hackangriff auf Hugging Face versorgt hatten . Ein unabhängiges Regelwerk für die Branche lehnt US-Präsident Donald Trump ab. Die Unternehmen regulierten sich selbst , hatte Trump Ende September bei einem Treffen mit den Chefs führender KI-Firmen gesagt.