CNN berichtet von einer spektakulären Fehlleistung von Künstlicher Intelligenz (KI), die die amerikanischen Streitkräfte verwenden. Die KI soll irrtümlich gemeldet haben, ein chinesisches Schiff im Nahen Osten transportiere Komponenten eines Atomwaffenprogramms.
Laut CNN leitete das US-Militär umgehend Maßnahmen zum Abfangen des Schiffes ein. Bewaffnete US-Soldaten sollen sich auf das Entern des Schiffes vorbereitet haben. Militärflugzeuge befanden sich in der Luft, wie mehrere anonyme Quellen dem Sender sagten.
Erst kurz vor der geplanten Operation untersuchten Offizielle den von einem Analysten des Kommandos für Spezialoperationen erstellten Bericht genauer und stellten fest, dass er mithilfe künstlicher Intelligenz (KI) generiert worden war – und dass ein vom Analysten verwendeter Chatbot das transportierte Material falsch identifiziert hatte.
Der Bericht sei, so eine der Quellen, „völlig falsch“ gewesen. Er habe aber auch „beinahe einen Krieg ausgelöst“. Jede US-Operation gegen ein chinesisches Schiff hätte die Gefahr eines eskalierenden bewaffneten Konflikts zwischen den beiden Nationen bergen können, so CNN.
Im gesamten US-Militär und den Geheimdiensten wird intensiv daran gearbeitet, KI in nahezu alle Bereiche ihrer Arbeit zu integrieren – von der Analyse der riesigen Mengen an Rohdaten, die die USA sammeln, und der Auswahl von Angriffszielen bis hin zu alltäglicheren Anwendungen wie Budgetplanung, Logistik und Lieferkettenmanagement.
Ein Analyst hatte einen Chatbot zu einem Geheimdienstbericht über die Ladung des Schiffes befragt. Der Bericht war vom US Special Operations Command Pacific mit Sitz in Hawaii erstellt worden. Es ist unklar, ob es sich bei dem Chatbot um ein kommerziell erhältliches Produkt oder um ein Produkt der US-Regierung handelte. Die internen Tools seien größtenteils „nur modernisierte Kopien kommerzieller Software“, so CNN.
Der Bot verknüpfte dann öffentlich zugängliche Informationen mit geheimen, in Regierungsbeständen befindlichen Signalaufklärungsdaten und gelangte zu seiner folgenschweren Schlussfolgerung über die Ladung des Schiffes. Der Analyst nutzte anschließend erneut KI, um die Ergebnisse in einen Standard-Geheimdienstbericht zu verpacken – einen Bericht, dem Militärs vertrauen – und diesen zu verbreiten.
Im Januar hatte Verteidigungsminister Pete Hegseth die „Strategie zur Beschleunigung der künstlichen Intelligenz“ seines Ministeriums veröffentlicht, um den Einsatz von KI im Militär zu beschleunigen.
„Wir werden Experimente anstoßen, bürokratische Hürden abbauen, unsere Investitionen bündeln und den notwendigen Umsetzungsansatz demonstrieren, um unsere Führungsrolle im Bereich militärischer KI sicherzustellen“, sagte Hegseth in einer Rede zur Ankündigung der Strategie. Die Vielzahl unterschiedlicher KI-Systeme, die von verschiedenen Teilen des Militärs und der Nachrichtendienste eingesetzt werden, führe jedoch zu erheblichen Unterschieden in ihrer Zuverlässigkeit und Funktionalität.
Die Art von „Halluzinationen“, die das vom Analysten in diesem Fall verwendete Tool hervorrief, ist laut den CNN-Quellen kein Einzelfall bei den Geheimdiensten, seit diese Tools in der Regierung immer häufiger eingesetzt werden, so eine anonyme Quelle zu CNN.
Der amerikanische Präsident Donald Trump will bei seinem bevorstehenden Treffen mit seinem chinesischen Kollegen Xi Jinping unter anderem über Sicherheitsmechanismen für KI sprechen.
