KI-Panne hätte fast US-Krieg mit China ausgelöst

Nach übereinstimmenden Berichten, darunter CNN, wurde ein chinesisches Schiff im Nahen Osten irrtümlich verdächtigt, Komponenten für ein Atomwaffenprogramm zu transportieren.

Grundlage war eine Geheimdienstanalyse, bei der ein Analyst einen KI-Chatbot zur Frachtliste des Schiffes befragte. Die Software verknüpfte öffentlich verfügbare Informationen mit geheimen Aufklärungsdaten und kam zu einem falschen Schluss. Anschließend wurde das Ergebnis mithilfe von KI in einen offiziellen Geheimdienstbericht übertragen.

Die Konsequenzen waren laut den von CNN zitierten Quellen erheblich: US-Streitkräfte bereiteten demnach eine mögliche Kontrolle des Schiffes vor. Soldaten standen für ein Entern bereit, während Militärflugzeuge bereits im Einsatz waren. Erst kurz vor der geplanten Aktion wurde der Fehler entdeckt.

Besonders brisant wäre ein Angriff oder eine gewaltsame Kontrolle gewesen, weil es sich um ein chinesisches Schiff handelte. Ein solcher Zwischenfall hätte das Risiko einer direkten Konfrontation zwischen den USA und China deutlich erhöht.

Der Fall wirft zugleich Fragen zum rasch zunehmenden KI-Einsatz beim US-Militär auf. Kritiker warnen insbesondere davor, fehlerhafte KI-Ergebnisse bei Aufklärung und Zielerfassung zu übernehmen. Die zentrale Lehre des Vorfalls: KI kann Analysen beschleunigen – sie kann aber auch falsche Einschätzungen schneller in operative Entscheidungen verwandeln.