Anthropic-Chef Dario Amodei hat sich für ein langsameres Tempo bei der Entwicklung besonders leistungsfähiger Künstlicher Intelligenz ausgesprochen. In seinem Essay „We Must Pace the Frontier“ schreibt er, Unternehmen sollten ihre Systeme so weiterentwickeln, dass genügend Zeit für Sicherheitsmaßnahmen, Tests und Kontrollen bleibe.
Amodei verbindet diese Forderung mit dem technologischen Wettbewerb zwischen den USA und China. Eine Verlangsamung der KI-Entwicklung in demokratischen Staaten dürfe aus seiner Sicht nicht dazu führen, dass mit der Kommunistischen Partei Chinas verbundene Projekte die Führung übernehmen. Ein chinesischer Vorsprung bei leistungsfähiger KI könne nach seiner Einschätzung Folgen für die nationale Sicherheit der USA und anderer demokratischer Staaten haben. Als Beispiel nennt er militärische Anwendungen.
Amodei fordert deshalb weitere Beschränkungen beim Zugang Chinas zu Schlüsseltechnologien. Leistungsfähige KI-Chips und Anlagen zur Herstellung moderner Halbleiter sollten seiner Auffassung nach nicht nach China verkauft werden. Außerdem spricht er sich für Maßnahmen gegen Chip-Schmuggel, den Fernzugriff chinesischer Akteure auf Rechenzentren außerhalb Chinas, die nicht autorisierte Übernahme von Fähigkeiten führender Modelle und den Diebstahl von Modellgewichten aus. KI-Unternehmen und die US-Regierung sollten dabei zusammenarbeiten.
Nach Amodeis Einschätzung könnten solche Maßnahmen den technologischen Vorsprung der USA gegenüber China in den kommenden drei bis fünf Jahren vergrößern.
Zugleich spricht er sich für Gespräche und Vereinbarungen mit China über bestimmte KI-Risiken aus. Solche Vereinbarungen müssten überprüfbar sein. Als mögliche Bereiche nennt er Verbote besonders gefährlicher Anwendungen, gemeinsame Tests von KI-Modellen und Regeln für den Einsatz von KI bei der Entwicklung neuer KI-Systeme. Eine umfassende internationale Begrenzung oder Pause der KI-Entwicklung hält er kurzfristig für schwer erreichbar.
Trump: USA sollen Vorsprung vor China behalten
US-Präsident Donald Trump sagte am Sonntag, die Vereinigten Staaten lägen bei Künstlicher Intelligenz vor China und sollten diesen Vorsprung behalten. Laut der Associated Press sagte Trump: „whoever wins AI wins“.
Trump erklärte zugleich, Schutzmaßnahmen für KI seien möglich, nannte dabei aber keine konkreten Regeln. Warnungen vor einer zu schnellen Entwicklung führte er auf von ihm nicht näher bezeichnete „negative forces“ zurück.
Auf die Frage, ob er die Risiken von KI herunterspiele, verneinte Trump dies. Künstliche Intelligenz werde seiner Einschätzung nach deutlich mehr Gutes als Schlechtes bringen, berichtete AP.
