Führende Vertreter großer KI-Unternehmen haben sich für ein langsameres Entwicklungstempo bei besonders leistungsfähigen Modellen ausgesprochen. Als Grund nennen sie wachsende Sicherheitsrisiken durch immer leistungsfähigere Systeme.
Anthropic-Chef Dario Amodei erklärte am Samstag in einem ausführlichen Essay, sein Unternehmen wolle zusätzliche Sicherheitsmaßnahmen einführen. Dazu zählen unter anderem unabhängige externe Prüfer, die weitreichenden Zugang zu den Systemen erhalten sollen. Zugleich sprach sich Amodei dafür aus, dass auch andere Unternehmen der Branche ihre Entwicklungsprozesse stärker absichern.
OpenAI-Chef Sam Altman unterstützte den Vorschlag. Er kündigte an, ebenfalls unabhängige Prüfer mit einem Zugang auszustatten, der dem von Mitarbeitern vergleichbar sein soll. Auch Elon Musk, Chef des KI-Unternehmens xAI, stellte sich hinter Amodeis Forderung.
Die Äußerungen sind bemerkenswert, weil die führenden KI-Unternehmen bislang in einem intensiven Wettbewerb um leistungsfähigere Modelle, Nutzer und Marktanteile stehen. Neue Systeme wurden in den vergangenen Jahren in zunehmend kurzen Abständen veröffentlicht.
Warnungen vor möglichen Risiken leistungsfähiger KI-Systeme gibt es innerhalb der Branche bereits seit längerem. Zuletzt hatten jedoch auch Mitarbeiter und Forscher öffentlich stärkere Sicherheitsmaßnahmen gefordert.
In dieser Woche hatte ein Anthropic-Forscher seinen Rücktritt erklärt und dem Unternehmen einen aus seiner Sicht unzureichenden Umgang mit den möglichen Folgen fortgeschrittener KI vorgeworfen. Der Fall verstärkte die Debatte über die Frage, ob die Entwicklung neuer Modelle schneller voranschreitet als die dafür vorgesehenen Kontroll- und Sicherheitsmechanismen.
Als mögliche Risiken werden in der Branche unter anderem Auswirkungen auf nationale Sicherheit, Wirtschaft und Arbeitsmärkte sowie ein möglicher Missbrauch leistungsfähiger KI-Systeme diskutiert. Ob die Äußerungen der Unternehmenschefs tatsächlich zu einem koordinierten langsameren Entwicklungstempo führen, ist bislang offen.
