Autonome Waffen: Replicator: Dieses Pentagon-Programm soll den Wettlauf um KI-Waffen auf dem Schlachtfeld entscheiden

Drohnen-Vorfall: Schlagabtausch zwischen Russland und USA

Während noch über die moralischen Fragen von KI-gesteuerten Waffen debattiert wird, wird längst an deren Umsetzung gefeilt. Mit einem neuen Programm will das Pentagon endlich zu China aufholen. Doch es dürfte erst der Anfang sein.

Es ist eine ganz grundlegende Frage: Wer ist verantwortlich, wenn eine von Künstlicher Intelligenz gesteuerte Waffe sich entscheidet, einen Menschen zu töten? Doch die seit Jahren diskutierten moralischen Bedenken gegenüber autonomen Waffen werden immer rascher von der Realität überholt. Die USA wollen nun ganz offiziell mit einem Pentagon-Programm den KI-Einsatz im Kampfeinsatz erweitern. Mit “Replicator” will man mit China gleichziehen – indem man das Schlachtfeld mit Unmengen sich selbst steuernder Drohnen flutet.

Das Ziel ist einfach erklärt: China hat einen klaren Massevorteil, die neue Initiative soll diesen Nachteil aufholen. Statt aber viel Geld für mehr Schiffe, Raketen und Soldaten auszugeben, will das Pentagon lieber “auf den amerikanischen Erfindergeist setzen”, kündigte die stellvertretende Verteidigungsministerin Kathleen Hicks bereits im Sommer an. Jetzt wurde der Plan konkret:  Noch Anfang Dezember wolle man sich festlegen, welche Plattformen bereits bereit für eine Massenproduktion sind, kündigte das Pentagon letzte Woche an. “Wir wollen Systeme, die man schwerer vorhersehen kann, die schwerer zu treffen sind und die schwerer von unseren möglichen Wettbewerbern überboten werden können.”

“Klein, smart, günstig und viele”

Dabei geht es nicht unbedingt um große Kampfdrohnen wie die Flugzeug-große Global Hawk. Stattdessen setzt man auf kleine, günstige Drohnen, die man in Masse fertigen – und zu Tausenden auf das Schlachtfeld loslassen kann. Im Idealfall sollen diese komplett autonom agieren. “Stellen Sie sich Systeme vor, die sich mit Sonnenenergie dauerhaft selbst in der Luft halten und uns prall gefüllt mit Sensoren live mit neuen, verlässlichen Informationen versorgen”, schwärmte sie regelrecht. “Stellen Sie sich Flotten von autonomen Systemen am Boden vor, die auf neue Art logistische Unterstützung liefern, das Gelände erkunden und unsere Truppen sichern.” Auch der Einsatz im Wasser sei denkbar.

Der smartere Einsatz von KI erlaube es “entschlossenen Verteidigern einen größeren Angreifer aufzuhalten, dabei weniger Personal an die Front zu schicken”. Außerdem ließen sich die neuen Waffen “so schnell bauen, ins Feld bringen und upgraden wie es die Kampfkräfte tatsächlich brauchen. Ohne einen ewigen Schwanz aus Wartungs-Bedürfnissen”, gibt sich Hicks überzeugt. Es gehe darum, die Innovation der US-Streitkräfte zu beschleunigen mit “Plattformen, die klein, smart, günstig und vor allem viele sind”, erklärte sie.

Aufholjagd

Noch ist man davon aber durchaus weit entfernt, glaubt Gregory Allen, der früher selbst für das Pentagon an KI forschte und nun bei einem Think Tank arbeitet. “Das Verteidigungsministerium hadert noch damit, die jüngsten Durchbrüche beim Maschinenlernen für sich nutzbar zu machen”, sagte er der “Associated Press”. Auch Missy Cummings vom Robotikzentrum der George Mason University sieht das so. “Es läuft noch keine KI autonom auf dem Schlachtfeld herum. Man nutzt sie bislang, um den Schleier des Schlachtfelds besser zu durchschauen”, erklärt sie. “Die KI, auf die das US-Verteidigungsministerium bislang setzt, unterstützt vor allem Menschen.”

Angesichts dessen sind die aktuellen Pläne durchaus ambitioniert: “Wir wollen schnell skalieren”, erklärte Hicks bei der Vorstellung des Projektes im Sommer. Innerhalb von 18 bis 24 Monaten sollen die KI-gesteuerten “autonomen Systeme” auf dem Schlachtfeld ankommen. 

Dass das Pentagon auf Künstliche Intelligenz setzt, ist seit Jahren bekannt. Schließlich holte man sich mit Microsoft, Google oder Amazon hochkarätige Konzerne ins Boot, um die passende Technologie zu bauen. Das sorgte im Silicon Valley bereits mehrfach für Ärger mit den Mitarbeitern, Google musste etwa seine Bewerbung auf das “Project Maven” genannte Programm zur besseren Analyse des Schlachtfeldes wieder aufgeben.

Angst vor der autonomen Waffe

Bei einigen Beobachtern weckt die schnelle Entwicklung Sorgen. Die Frage nach der Verantwortung für einen tödlichen Einsatz von KI-gesteuerten Waffen ist nach wie vor nicht geklärt. Wer ist etwa Schuld, wenn eine Kampfdrohne selbstständig Zivilisten tötet? Doch unter dem Druck der Konkurrenz – Russland, China, Indien, Pakistan und andere Staaten haben einen Vorstoß der USA zu verantwortungsvollem Einsatz von KI nie unterzeichnet – kann man sich diese Gedanken immer weniger leisten, wenn man mithalten will. Es gehe längst nicht mehr darum, ob man wirklich autonom agierende Kampfsysteme entwickeln sollte, berichtet etwa Christian Bros, der früher selbst Soldat war und nun für den Militärzulieferer Anduril arbeitet. “Es geht vielmehr darum, wie konkret wir das umsetzen – und die gesetzten Fristen einhalten.”

Dabei hilft nicht, dass die Beschreibung von Replicator auch an sogenannte Drohnenschwärme erinnert. Diese Schwärme bestehen aus Hunderten oder gar Tausenden Drohnen, die gleichzeitig gesteuert werden. Nutzt man sie für ein koordinierten Angriff, könnten sie das Zerstörungspotenzial einer Atomwaffe erreichen, warnten schon vor zwei Jahren Experten (hier erfahren Sie mehr). Sollte ein solcher Schwarm sich auch autonom betreiben lassen, wäre eine Fehleinschätzung der KI entsprechend folgenschwer.

Mit Details zu den KI-Plänen von Replicator hält sich das Pentagon dann aber bedeckt. Man wolle die Konkurrenten lieber im Dunkeln lassen, erklärte Hicks. Selbst welche Plattformen man für die Massenproduktion auswähle, werde der Öffentlichkeit daher lieber nicht verraten. Dass dadurch auch die Debatte über den ethischen Einsatz schwieriger wird, dürfte dem Pentagon aber eher gelegen kommen.

Quellen: US-Verteidigungsministerium, AP, Modern War Institute,

Erfahren Sie mehr: