CNN-Bericht: KI-Fehler führte beinahe zu US-Militäreinsatz
CNN-Bericht
Ein mit Hilfe von künstlicher Intelligenz (KI) erstellter, fehlerhafter US-Geheimdienstbericht hätte laut CNN fast dazu geführt, dass das US-Militär inmitten des Iran-Krieges ein chinesisches Schiff gestürmt hätte. Wie der US-Sender mit Verweis auf mehrere mit der Sache vertraute Quellen nahelegt, wurde der Fehler offenbar erst kurz vor einem möglichen Einsatzbefehl erkannt.
Online seit heute, 18.57 Uhr
Das US-Militär habe bereits „Maßnahmen eingeleitet, um das Schiff abzufangen“. US-Soldaten standen den Angaben zufolge „bereit, das Schiff zu entern, Militärflugzeuge befanden sich bereits in der Luft“. Der Einsatz im Nahen Osten sei erst abgebrochen worden, nachdem Beamte herausgefunden hätten, dass ein von einem Analysten genutzter KI-Chatbot die Ladung des Schiffes falsch identifiziert habe.
Die Geheimdienstinformationen über eine angebliche Ladung des Schiffes mit Komponenten für Atomwaffen seien „komplett falsch“ gewesen seien, hätten im Frühjahr aber „fast einen Krieg verursacht“, zitiert CNN eine Quelle. Wie der US-Sender festhält, berge jede US-Operation gegen ein chinesisches Schiff das Risiko, zu einem bewaffneten Konflikt zwischen den beiden Nationen zu eskalieren.
Keine Angaben über Chatbot
Laut CNN hat im konkreten Fall ein KI-Bot zunächst öffentlich zugängliche Informationen mit Geheimdienstinformationen verknüpft und sei so zu seiner fatalen Fehleinschätzung gekommen. Der Analyst habe in der Folge abermals KI verwendet, um einen Geheimdienstbericht zu verfassen, und diesen dann verbreitet.
Was das Schiff tatsächlich geladen hatte und wohin es unterwegs war, blieb unklar. Keine Angaben gibt es zudem über den verwendeten Chatbot. Laut CNN ist offen, ob es sich um ein handelsübliches oder ein von der US-Regierung entwickeltes Produkt handle. Schließlich fehlt auch eine offizielle Bestätigung: Die US-Streitkräfte und das Pentagon äußerten sich bisher nicht zu dem Vorfall, wie CNN festhält.
„Strategie zur Beschleunigung von KI“
Allerdings drängen Verantwortliche beim Militär und den Geheimdiensten der USA schon länger auf eine verstärkte Integration von KI, so CNN: Sei es bei der Analyse von großen Datenmengen, der Auswahl von Angriffszielen oder eher alltäglichen Anwendungen wie der Verwaltung von Budgets, Logistik und Lieferketten.
Bereits im Jänner veröffentlichte in diesem Zusammenhang US-Verteidigungsminister Pete Hegseth auch eine „Strategie zur Beschleunigung der künstlichen Intelligenz“, um den Einsatz von KI im Militär voranzutreiben.
„Wir werden Experimentierfreudigkeit fördern, bürokratische Hürden beseitigen, unsere Investitionen gezielt einsetzen und den Umsetzungsansatz demonstrieren, der erforderlich ist, um unsere Führungsrolle im Bereich der militärischen KI zu sichern“, wie Hegseth bei der Vorstellung sagte.
Warnung vor „katastrophalen Fehleinschätzungen“
Damit einher geht die Warnung vor den damit verbundenen Risiken. Analysten befürchten laut CNN schon seit Langem, dass KI zu „katastrophalen Fehleinschätzungen führen könnte, wenn sich Staaten auf mangelhafte oder verfälschte Daten stützen – Fehleinschätzungen, die dazu führen könnten, dass die Vereinigten Staaten auf der Grundlage ungenauer Informationen das Feuer auf ein chinesisches Schiff eröffnen“.
Laufende Debatte über Risiken von KI
Die Debatte über die Risiken von KI hat sich seit dem Sommer drastisch verschärft. Hintergrund waren von KI-Unternehmen OpenAI, Anthropic und zuletzt auch Google gemeldete Vorfälle, bei denen KI-Agenten sich während Testläufen eigenständig mit dem Internet verbanden und andere Plattformen angriffen.
Anthropic-Chef Dario Amodei warnte kürzlich vor einer KI, die außer Kontrolle geraten könnte. Zusammen mit anderen führenden Branchenvertretern in den USA forderte er eine gezielte Verlangsamung der Entwicklung der fortschrittlichsten KI-Modelle, um dem vorzubeugen.
„KI-Unternehmen müssen transparenter werden“
Wie lässt sich verhindern, dass KI außer Kontrolle gerät und zur Gefahr wird? Darüber wird in der KI-Branche, in der Wissenschaft und in der Politik diskutiert. Computerwissenschaftlerin Dagmar Gromann fordert in der Ö1-Serie „Im Journal zu Gast“ strengere Regeln und viel mehr Transparenz von KI-Unternehmen.
Beispiel für „unmittelbares Risiko“
In Washington debattieren seitdem auch politische Entscheidungsträger „intensiv über KI“ und die Frage, ob diese „sich den menschlichen Beschränkungen entziehen und damit möglicherweise zivilisationszerstörerische Folgen haben könnte“, so CNN.
Der Vorfall mit dem chinesischen Schiff unterstreiche allerdings „ein anderes, unmittelbareres Risiko“, nämlich „dass Menschen falsche Entscheidungen auf der Grundlage ungenauer oder irreführender Informationen treffen könnten, die von KI oder anderen automatisierten Systemen generiert wurden“. CNN verweist hier auf die möglicherweise bereits große Rolle von KI bei der Zielerfassung beim US-Militär und dem hier „offensichtlichem Risiko“.