Angesichts der Warnungen vor den Risiken einer sogenannten Superintelligenz hat Anthropic-Chef Dario Amodei KI-Unternehmen aufgerufen, die Entwicklung von Künstlicher Intelligenz zu drosseln. »Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern«, schrieb Amodei am Samstag in einem Essay .

Unterstützung erhielt er vom Chef des Konkurrenzunternehmens OpenAI, Sam Altman, dem Techunternehmer Elon Musk und Demis Hassabis, Leiter von Googles KI-Tochter DeepMind.

Anthropic-Chef Amodei erklärte, KI berge »gravierende« Risiken. Auch bei einer verlangsamten Entwicklung werde der Fortschritt immer noch schnell erscheinen – man müsse die gewonnene Zeit sinnvoll nutzen. »Die Technologie nicht zu entwickeln, beraubt die Menschheit ihrer Vorteile oder überlässt KI autoritären Mächten«, erklärte er. Zugleich sei eine »zu schnelle Entwicklung leichtsinnig«.

»Dario hat Recht«

»Wir haben nach einem Mittelweg gesucht«, sagte Amodei, der Anthropic 2021 gemeinsam mit seiner Schwester Daniela gegründet hatte. Doch in den vergangenen Monaten sei er zu der Überzeugung gelangt, dass »für eine umfassende Bewältigung der Risiken« noch größere Vorsicht nötig sei.

»Dario hat Recht«, schrieb Elon Musk auf X , dessen Firma SpaceXAI ebenfalls KI-Systeme entwickelt.

Altman von OpenAI erklärte: »Ich stimme Dario zu.« Eine Drosselung des Tempos bei der KI-Entwicklung sei auch bei seinem Unternehmen in den vergangenen Wochen intensiv diskutiert worden.

DeepMind-Chef Hassabis schrieb auf X, Darios Essay weise den richtigen Weg in die Zukunft. »Die Details müssen noch ausgearbeitet werden, aber die Richtung stimmt, um diesen kritischen Moment zu meistern.«

OpenAI-Chef Altman hatte bereits Ende Juli erklärt, dass Entwickler möglicherweise freiwillig einen Gang zurückschalten müssten, damit die Gesellschaft Schritt halten kann. Zudem unterzeichneten mehr als tausend Mitarbeiter führender KI-Unternehmen, darunter Amodei, eine Petition, in der sie die Hilfe der US-Regierung forderten, um »die Entwicklung automatisierter KI bewusst zu drosseln«.

OpenAI hatte im Juli bekannt gegeben, dass sich während eines Sicherheitstests KI-Modelle des Unternehmens selbstständig gemacht und einen Hackerangriff auf die beliebte Programmierplattform Hugging Face verübt hatten . Es handele sich um einen »nie dagewesenen Cybervorfall«, erklärte das Unternehmen aus San Francisco.

Könnte KI Internet übernehmen?

Für diese und andere Vorfälle wurden KI-Agenten verantwortlich gemacht, also Softwareprogramme, die Aufgaben ohne ständige Überwachung durch Menschen ausführen können.

Amodei warnte davor, den Vorfall als Einzelfall abzutun. »Ein Schwarm von Agenten agierte im Wesentlichen als fanatisch ergebenes Kollektiv und führte Cybersicherheitsangriffe auf Ziele aus, die sie nicht angreifen sollten und die in keinem Zusammenhang mit der eigentlichen Aufgabe standen«, erklärte er.

Angesichts der rasanten Entwicklung der KI könne ein solcher Agentenschwarm in sechs bis zwölf Monaten in der Lage sein, »das gesamte Internet zu übernehmen« und Schäden in Höhe von Hunderten Milliarden Dollar verursachen, fügte der Anthropic-Chef hinzu.

Für Schlagzeilen hatten zuletzt auch die Warnungen des Forschers Jacob Coxon gesorgt, der seine Kündigung bei Anthropic eingereicht hatte. Zuvor hatte er auch bei OpenAI gearbeitet. »Keins der beiden Unternehmen handelt verantwortungsbewusst«, erklärte der 27-Jährige. »Sie befinden sich im Wettrennen um eine sich selbst verbessernde Superintelligenz und setzen dabei unser Leben aufs Spiel.«

Anthropic-Chef Amodei kündigte nun konkrete Schritte für mehr Sicherheit an. Sein Unternehmen werde einem Team von »externen Gutachtern« einen direkten Zugang gewähren, um die Einhaltung der Sicherheitsvorschriften zu überprüfen. Er forderte andere Unternehmen auf, diesem Beispiel zu folgen. Altman sagte, OpenAI werde sich zu einer ähnlichen externen Aufsicht verpflichten und bald mehr dazu mitteilen.