KI im Krieg: Militärethiker über Chancen und ethische Grenzen

trend: Sie waren die letzten Jahre als Ethikforscher an der Universität tätig und sind im Oktober zum Rüstungskonzern Rheinmetall gewechselt. Sind Sie ein Feigenblatt, mit dem sich Rheinmetall schmückt?

Benedikt Bussmann: Klar existieren ethische Feigenblätter, denken Sie an die Ethikkommission der Fifa. Aber Rheinmetall ist nicht dafür da, Ethik zu machen – Ethik mache ich hier in der Wissenschaft –, doch natürlich gibt es zahlreiche ethische Aspekte, die gerade für die Rüstungsindustrie relevant sind. Ich kann meine persönliche Haltung mitbringen und vertreten, aber ich würde mich dagegenstellen, wenn plötzlich behauptet würde: „Jetzt sind wir hier auf einmal ein ethischer Laden und bauen ethische Waffensysteme.“ Den Krieg ethisch zu machen, kann nicht der Anspruch sein. Innerhalb der kriegerischen Dynamik wird es für mich keine ethische Zivilisierung geben. Die muss von außen kommen, durch Politik, Diplomatie und andere Bemühungen.

trend: Bleiben wir bei der Ethik. Wer trägt Verantwortung, wenn eine Maschine selbst ein Ziel wählt und tötet, wie im Fall von Saporischschja, wo eine russische Drohne mit Edge-AI drei Menschen tötete?

Im deutschen Militär heißt es: „Verantwortung ist unteilbar.“ Irgendwo gibt es jemanden, der entschieden hat, dass ein KI-System eingesetzt wird, und diese Person trägt für den gesamten Vorgang die Verantwortung. Aber die endet nicht dort. In der Entwicklung sprechen wir von ­„Ethics by Design“ – moralische Parameter wie Transparenz und Verantwortlichkeit sollen schon im Entwicklungsprozess berücksichtigt werden. Denn auch dort, wo Menschen Algorithmen programmieren, treffen sie Entscheidungen. Die KI selber trägt keine Verantwortung.

Aber wer ist nun verantwortlich – derjenige, der den Knopf gedrückt hat, oder diejenigen, die das System programmiert haben?

Ich würde die Verantwortung ethisch weiterhin bei denjenigen lassen, die dieses System überhaupt losgeschickt haben, im Wissen, dass sie es nicht vollends kontrollieren können. Dennoch plädiere ich nicht dafür, den einen Verantwortlichen zu suchen, sondern für jede Instanz die eigenen Verantwortlichkeiten ­herauszuarbeiten.

Was verändert sich an dem moralischen Prozess des Tötens, wenn nicht mehr der Mensch, sondern die Maschine das Ziel wählt?

Dazu bräuchten wir mehr psychologische Forschung. Aus der Geschichte wissen wir: Je abstrakter ein Tötungsakt vollzogen wird, desto geringer die Hemmschwelle. Es braucht mehr Überwindung, jemandem mit einem Hammer den Kopf einzuschlagen, als ihn auf 500 Meter zu erschießen. Wenn Systeme diese Hemmschwelle weiter herabsetzen, wird die Selbstwahrnehmung eine andere und die Gefahr einer Ausweitung wächst. Die Illusion eines „­sauberen Krieges“ ist ein immenser Trugschluss. Für den, der den Knopf drückt, ist es einfacher, für den Getroffenen macht es keinen Unterschied, ob ihn eine Drohne oder eine Granate trifft. Die Fokussierung auf Algorithmen verschleiert, dass das kriegerische Erleben extrem grausam bleibt.

Sie beschäftigen sich mit einer möglichen neuen Dehumanisierung des Krieges. Krieg war schon immer mit Entmenschlichung verbunden, was ist durch KI neu?

Wirklich neu ist tatsächlich, dass KI ein reales Replacement von Menschen in Entscheidungsketten vornimmt. Alles, was quantitative Datenanalyse angeht – Geodaten, Koordinationsdaten, große Datenmengen ­filtern und auswerten –, das wurde vorher zwar auch schon mit Technik unterstützt, aber die Analysearbeit haben trotzdem Menschen gemacht. Neu bei der KI ist auch qualitative Wahrnehmung: Sie sieht keinen Menschen, sondern Pixel, Merkmale, Wahrscheinlichkeiten. Die KI hat kein Gewissen, es ist einfach eine Kalkulationskette.

Könnte eine zuverlässige KI im Krieg dann sogar „besser“ handeln als ein Mensch, der aus Rache oder Hass foltert?

Ja, das wäre eines der ethischen Themen, die wir im Kontext Ethical Design anstreben sollten. ­Massaker wie My Lai in Vietnam sind menschliche Phänomene. Durch harte Regeln, durch Ethical Alignment, könnte man das bei einer KI vermeiden. ­Meine Hoffnung wäre, dass Präzision durch KI die allgemeine Zerstörung minimieren kann, sowohl bei Umwelt als auch beim Menschen. Wenn ein Krieg digitaler und präziser entschieden werden kann, wäre das eine Art Zugewinn. Aber welches Kriegsbild wir dann haben, ist die andere Frage: ein Krieg, der leise und unsichtbar geführt wird, erzeugt eine ganz eigene Form von ständiger Bedrohung und Angst.

Das heißt, es braucht neue Waffen­regularien?

Ja, definitiv, und zwar international. Dafür braucht es eine starke UN. Theoretisch ist das eindeutig, praktisch sind die Probleme sehr eklatant. Diese Waffensysteme lassen sich wahllos missbrauchen – gerade von terroristischen Organisationen – und der Zugang ist ­extrem einfach. Genau das unterscheidet KI von atomaren Waffen, wo man deutlich schwieriger herankommt. Wobei die atomaren Waffen auch deswegen geächtet sind, weil sie unterschiedslos sind und weil sie in den Konsequenzen nicht kontrollierbar sind. Aber genauso ist es mit dem Fall von Saporischschja: Wenn die Konsequenzen nicht mehr überschaubar sind, bin ich an einem großen Problem, und genau deshalb braucht es Regularien, sowohl seitens der Politik als auch der Wirtschaft.

Viele österreichische Unternehmen beschäftigen sich erstmals mit der Frage, ob sie in den Geschäftsbereich Defence einsteigen sollen. ­Dabei wird oft zwischen tödlichen und nichttödlichen Waffen unterschieden. Ist so eine Unterscheidung ethisch überhaupt haltbar?

Ja, für mich schon. Es gibt Waffensysteme, die genau darauf ausgerichtet sind, jemanden zu vernichten. Es gibt aber genauso Dual-Use-Systeme, etwa im Bereich der Überwachung kritischer Infrastruktur. Und es gibt Verteidigungssysteme wie Patriot oder Iron Dome, die feindliche Raketen abfangen, aber selbst keine menschlichen Ziele angreifen. Angriffe erfolgen mit Kampfjets und Drohnen.

Aber das lässt sich doch nicht immer so genau trennen. Ein ursprünglich defensives oder Dual-Use-System kann theoretisch auch anders eingesetzt werden.

Nein, komplett trennscharf ist das nicht. Natürlich kann alles missbraucht werden. Aber wenn Systeme missfunktional entgegen ihrem ­eigentlichen Zweck verwendet werden, liegt das Problem für mich nicht am System, sondern an den Menschen, die sich über bestehende Regularien und Funktionsweisen hinwegsetzen. Eine hundertprozentige Missbrauchssicherheit gibt es nicht.

Muss sich eigentlich das Verständnis von Österreichs Neutralität verändern, wenn militärische Macht heute aus Software, Chips und KI-Modellen besteht?

Ich würde als Ethiker ­zwischen theoretischer und praktischer Neutralität unterscheiden. Theoretisch kann ich mir ein neutrales Land vor­stellen, praktisch ist das so gut wie in keiner Konstellation umsetzbar. Für ­Österreichs militärische Neutralität als bündnisfreies Land habe ich volles ­Verständnis. Aber wenn Neutralität ­bedeuten würde, keinen Unterschied zwischen Angreifer und Angegriffenem zu machen – etwa zwischen Russland und der Ukraine –, dann ist das für mich keine Neutralität mehr. Das ist wie der Bystander-Effekt: Wer beim Mobbing danebensteht und nichts tut, legitimiert den Mobber.

Wenn zentrale Teile der Verteidigungsinfrastruktur von US-Unternehmen abhängig sind, kann Österreich dann militärisch glaubwürdig neutral bleiben?

Nein. Man sieht am Internationalen Strafgerichtshof, wo Richtern der Zugang zu Microsoft Office abgestellt wurde, weil sie in Ungnade fielen, wie schnell solche Abhängigkeiten wirken. Souveränität bedeutet, sich nicht in eine Position zu begeben, in der jemand sagen kann: „Wenn du das nicht tust, schalten wir dir alles ab.“