Ausgerechnet die größten KI-Anbieter fordern plötzlich strengere staatliche Regeln. Kritiker sehen darin ein Muster: Erst wird der Weltuntergang beschworen, Sodann wird nach staatlicher Regulierung gerufen. Diese soll dann als Schutzwall gegen neue Wettbewerber dienen. Angenehmer Nebeneffekt: Der Staat wird treuer Kunde, der verlässlich zahlt, um die Daten abzugreifen. Damit steigt der Börsenwert der Unternehmen – und allen Beteiligten ist gedient.
Anfang September verließ Jacob Coxon den amerikanischen AI-Entwickler Anthropic und machte seinen Abschied öffentlich. Coxon hatte zuvor sowohl bei OpenAI als auch bei Anthropic an großen AI-Modellen gearbeitet. In seinem Beitrag warnte er vor einem Wettlauf um immer leistungsfähigere Systeme und vor einer sich selbst verbessernden Superintelligenz. Zuvor hatte noch nie jemand von Coxon gehört.
Der Beitrag verbreitete sich binnen kurzer Zeit millionenfach. Kurz darauf meldete sich Evan Hubinger zu Wort, einer der bekanntesten Alignment-Forscher bei Anthropic. Auch er warnte vor erheblichen Risiken durch künftige, sich selbst verbessernde AI-Systeme.
Fast gleichzeitig legte Anthropic einen Bericht über den Missbrauch seiner Modelle vor. Darin beschrieb das Unternehmen unter anderem Anwendungen in militärischen Projekten, Cyberoperationen, Überwachung und biologischer Forschung.
Vom Warnruf zur Regulierung
Wenige Tage später forderte OpenAI verbindliche nationale Sicherheitsregeln für besonders leistungsfähige KI-Systeme in den Vereinigten Staaten. Dazu gehören verpflichtende Tests, externe Sicherheitsprüfungen, Vorgaben zur Cybersicherheit und Meldepflichten bei Zwischenfällen.
Der Autor des Finanzportals Daily Reckoning, Adam Sharp, sieht darin mehr als eine zufällige Häufung. Seine These: Die großen KI-Konzerne bereiten den Boden für ein Regime, das unter dem Stichwort Sicherheit neue Zulassungshürden schafft – und ihnen selbst einen Wettbewerbsvorteil verschafft. Wer künftig ein leistungsfähiges KI-Modell auf den Markt bringen will, müsste umfangreiche Tests durchlaufen, Audits finanzieren, Dokumentationspflichten erfüllen und Sicherheitsteams beschäftigen.
Große Anbieter können die Kosten solcher Zulassungs-, Prüf- und Sicherheitsauflagen tragen. Für Start-ups können dieselben Vorgaben den Markteintritt verhindern. Regulierung kann damit die Position der etablierten Anbieter stärken und neue Konkurrenz fernhalten.
Auch der Staat selbst wird zum Kunden. Je stärker KI für Sicherheit, Verwaltung und Überwachung eingesetzt wird, desto größer wird der staatliche Beschaffungsmarkt. Für die Anbieter entstehen damit langfristige und finanzstarke Kundenbeziehungen. Einen ähnlichen Mechanismus gab es während der COVID-Pandemie, als Staaten Entwicklung und Produktion finanzierten und zugleich große Abnahmeverträge für Impfstoffe, Medikamente und Tests abschlossen.
Bemerkenswert ist auch der Zeitpunkt: Anthropic arbeitet auf einen Börsengang hin, auch OpenAI hatte einen IPO vorbereitet. Strengere Regulierung könnte die bestehenden Marktpositionen der großen Anbieter zusätzlich absichern.
Regulierung schafft Monopol
Je umfangreicher die Vorgaben werden, desto höher wird die Eintrittsschwelle für neue Anbieter. Die Zahl der Unternehmen, die selbst große Basismodelle entwickeln können, könnte weiter sinken.Eine Regulierung, die die Macht großer KI-Unternehmen begrenzen soll, könnte damit zugleich deren Stellung absichern. Kleinere Entwickler müssten sich stärker an bestehende Plattformen hängen, neue Wettbewerber kämen schwerer in den Markt.
Vorbild Tabakindustrie
Sharp verweist auf die Tabakindustrie. Auch dort änderten große Unternehmen ihre Haltung zur Regulierung, als staatliche Vorgaben nicht nur Kosten verursachten, sondern zugleich den Wettbewerb erschwerten. Philip Morris unterstützte schließlich eine stärkere Regulierung durch die amerikanische Food and Drug Administration. Für den Marktführer waren neue Anforderungen leichter zu bewältigen als für kleinere Konkurrenten und neue Anbieter. Das Prinzip lässt sich auf KI übertragen: Wer bereits Milliarden investiert, große Rechenzentren aufgebaut und umfangreiche Rechts- und Sicherheitsstrukturen geschaffen hat, kann regulatorische Hürden leichter bewältigen als ein Newcomer.
Open Source unter Druck
Besonders deutlich wird der Konflikt bei offenen KI-Modellen. Open-Source-Modelle ermöglichen es Unternehmen und Entwicklern, leistungsfähige Systeme selbst zu betreiben, anzupassen und weiterzuentwickeln. Sie müssen dafür nicht für jeden API-Aufruf an OpenAI, Anthropic oder Google zahlen.
Für Start-ups sind solche Modelle deshalb ein wichtiger Wettbewerbsfaktor. Wenn ein leistungsfähiges Modell vor seiner Veröffentlichung umfangreiche Prüfungen, Sicherheitsnachweise und Zulassungen benötigt, wird die freie Veröffentlichung schwieriger. Kleine Entwickler könnten diese Anforderungen kaum noch erfüllen. Damit würde sich der Markt zugunsten geschlossener Systeme verschieben. Nutzer und Unternehmen wären stärker auf wenige Plattformanbieter angewiesen.
Weniger Newcomer, weniger Wettbewerb
Hohe Zulassungskosten reduzieren die Zahl möglicher Wettbewerber. Start-ups müssten entweder große Summen Kapital aufnehmen oder ihre Produkte auf den Modellen der bestehenden Marktführer aufbauen. Die großen kI-Konzerne könnten ihre Stellung damit auf mehreren Ebenen absichern: als Entwickler der Basismodelle, als Anbieter der Infrastruktur und als Betreiber der Plattformen.
Sicherheit als Zugangskontrolle
Sharp sieht noch eine weitere Entwicklung: Je stärker KI mit Cyberangriffen, biologischen Risiken oder militärischer Nutzung verbunden wird, desto lauter dürfte die Forderung werden, Nutzer leistungsfähiger Systeme eindeutig zu identifizieren. Wer solche Modelle nutzt, könnte sich künftig registrieren oder identifizieren müssen. Missbrauch ließe sich leichter zurückverfolgen, anonyme Nutzung würde schwieriger. Aus der Regulierung von Modellen würde dann die Regulierung des Zugangs.
First Mover
Werden Sicherheitsauflagen so teuer und komplex, dass nur Unternehmen mit Milliardenbudgets sie erfüllen können, steigen die Markteintrittsbarrieren. Betroffen wären vor allem Start-ups, unabhängige Entwickler und Anbieter offener Modelle.
Diejenigen Betreiber, die bereits hohe Summen investiert haben und gegenüber ihren Investoren Renditen erwirtschaften müssen, könnten von einer solchen Entwicklung besonders profitieren. Wenn kleinere Wettbewerber aus dem Markt gedrängt werden, konzentriert sich das Geschäft auf wenige große Netzwerke. Das stärkt deren Marktposition, erhöht potenziell ihre Bewertung und kann sich entsprechend bei einem Börsengang auszahlen.
