Eine autonome KI von OpenAI ist nach Angaben der australischen Regierung in eine regierungseigene Datenbank eingedrungen. Der KI-Agent habe auf öffentliche und nicht öffentliche Dateien der für Gesundheit zuständigen Statistikbehörde zugegriffen, sagte Australiens Premierminister Anthony Albanese. Er habe mit OpenAI-Chef Sam Altman gesprochen, »um die große Besorgnis Australiens über diesen Vorfall zum Ausdruck zu bringen«. Albanese zufolge ereignete sich der Vorfall bereits im Juni. Es gebe keine Hinweise auf eine weitergehende Kompromittierung des Netzwerks der Regierungsbehörden, sagte er. Nach derzeitigem Kenntnisstand seien keine personenbezogenen Daten abgerufen worden. Die Ermittlungen dazu dauerten laut Albanese jedoch an. Unter anderem wollten die Forensiker herausfinden, welche anderen Regierungssysteme betroffen sein könnten, sagte der Premierminister. Dessen ungeachtet sei diese Situation »offensichtlich inakzeptabel«. OpenAI spricht von mehreren Vorfällen Albanese sagte, er habe mit OpenAI-Chef Sam Altman gesprochen, »um die große Besorgnis Australiens über diesen Vorfall zum Ausdruck zu bringen«. Er habe zudem seine »Enttäuschung darüber zum Ausdruck gebracht, dass das Unternehmen viel zu lange gebraucht hat, um die Regierung über die Geschehnisse zu informieren«. Es habe bis zum 10. September gedauert und sich auch nur um eine einfache E-Mail gehandelt, die »lediglich an das allgemeine Postfach geschickt« worden sei. OpenAI teilte später mit, dass laut einer kürzlich ausgeführten Überprüfung »mehrere australische Regierungswebsites« betroffen gewesen seien. Dabei seien »Aktivitäten im Zusammenhang mit verschiedenen Websites und Diensten der australischen Regierung« festgestellt worden. OpenAI-Modelle hätten während einer internen Bewertung »versucht, Antworten und verfügbare Statistiken zu Fragen über Australien abzurufen«, hieß es. »Dabei führten unsere Modelle Aktionen aus, die wir nicht beabsichtigt hatten.« Amodei und Altman wollen langsamere Entwicklung Führende Vertreter der Branche hatten bei einer Sitzung des UN-Sicherheitsrats zu KI zuvor erneut Risiken eingeräumt und für ein langsameres Vorgehen plädiert. OpenAI -Chef Altman sagte dabei in New York, das aktuelle Stadium der KI-Entwicklung erfordere »äußerste Vorsicht«. Die Branche dürfe »nicht zu viel technologisches Risiko akzeptieren, nur weil die Vorteile zu groß und zu wichtig sind, um das Tempo zu drosseln«. Anthropic-Chef Dario Amodei versicherte in einer Videoansprache: »Wir werden das Tempo so weit drosseln wie nötig, damit jede weitere von uns veröffentlichte KI-Technologie tatsächlich sicher ist.« Amodei und Altman hatten kürzlich für eine langsamere Entwicklung von KI plädiert. Grund waren mehrere Zwischenfälle, bei denen KI-Systeme aus ihren Testumgebungen ausbrachen und über das Internet andere Unternehmen oder Plattformen attackierten. Das schürte Befürchtungen vor womöglich unkontrollierbaren KI-Modellen. In diesem Jahr sind bereits zahlreiche Fälle von Cyberattacken durch KI-Modelle öffentlich bekannt geworden. In dem bisher aufsehenerregendsten Fall einer KI-Cyberattacke war eine künstliche Intelligenz des ChatGPT-Entwicklers OpenAI bei einem Test aus einer abgesicherten Umgebung ausgebrochen und ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face, eingedrungen. Das hatte den Rivalen Anthropic veranlasst, Testläufe seines eigenen KI-Modells Claude zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch Meta räumte danach ein, dass KI des Konzerns sich wegen einer Fehlkonfiguration des Systems bei einem Testpartner in Computer eines anderen Unternehmens gehackt habe. Jüngst meldete dann auch Google , dass sein KI-Modell Gemini sich bei einem Test zur Cybersicherheit ungeplant und eigenständig in drei Unternehmen gehackt hatte.