USA vermeiden fast einen Militärangriff auf China aufgrund von KI-generierten falschen Informationen

Laut CNN haben die Vereinigten Staaten knapp einen Militärangriff auf ein chinesisches Schiff verhindert, der fast zu einem Konflikt zwischen den beiden Supermächten geführt hätte. Die Operation basierte auf einem falschen Geheimdienstbericht, der von einem KI-Chatbot generiert wurde. Dies zeigt die potenziellen Risiken der Integration von KI in militärische Systeme. Die US-Streitkräfte hatten bereits Pläne zur Abfangung eines chinesischen Schiffes im Nahen Osten vorbereitet. Die Soldaten waren bereit, an Bord des Schiffes zu gehen, unterstützt durch Luftunterstützung. Die Operation wurde auf der Grundlage eines Geheimdienstberichts gestartet, der behauptete, dass das chinesische Schiff Komponenten für ein nukleares Waffenprogramm transportierte. Kurz vor der geplanten Operation untersuchten Beamte den Bericht eines Analysten des US Special Operations Command genauer und entdeckten, dass er mit Hilfe von KI erstellt worden war.

Der verwendete Chatbot hatte den Transportgut des Schiffes falsch identifiziert, was zu einer klassischen KI-Halluzination führte, die fast zu einem Krieg zwischen den USA und China geführt hätte. Der Analyst hatte den Chatbot nach Informationen über die Fracht des Schiffes gefragt. Der Chatbot kombinierte öffentliche Geheimdienstinformationen mit vertraulichen Daten, die den Behörden vorlagen, und kam zu einem falschen Schluss über die Fracht. Der Analyst nutzte dann die KI, um die Ergebnisse in einen Standard-Geheimdienstbericht umzuwandeln. Das US-Verteidigungsministerium hat die Nutzung von KI für Arbeitsaufgaben erhöht und Verträge mit mehreren Technologieunternehmen unterzeichnet, um deren Modelle in klassifizierte Systeme zu integrieren. Die Militärs nutzen KI in fast jedem Aspekt ihrer Arbeit, von der Datenanalyse bis zur Zielauswahl für Angriffe.

Aufgrund der KI-Halluzination planten die Militärs, das falsche Ziel anzugreifen. Das Pentagon hat keine Stellungnahme abgegeben. Donald Trump hat den Journalisten der CNN, POLITICO und MS NOW den Zugang zum Weißen Haus verweigert, weil sie angeblich Falschmeldungen verbreiten. Die drei Nachrichtenorganisationen haben angekündigt, rechtliche Schritte einzuleiten, da dies eine klare Verletzung des Ersten Verfassungszusatzes darstellt. Update vom 22. September 2026: Wie angekündigt, haben CNN, MS NOW und POLITICO Trump verklagt.