Was bedeutet künstliche Intelligenz für die Rüstungskontrolle?

Das maschinelle Lernen (ML), d. h. die Entwicklung statistischer Algorithmen, die aus Daten lernen und neue Daten generieren können, und künstliche Intelligenz (KI) im weiteren Sinne haben in letzter Zeit erhebliche Fortschritte gemacht. Die möglichen Anwendungen, die Bedeutung und die Gefahren dieser Technologien werden in fast allen Lebensbereichen diskutiert. Da die Modellentwickler*innen immer leistungsfähigere KI-Systeme bauen, werden die Möglichkeiten für nützliche und schädliche Anwendungen der KI weiter zunehmen.

KI hat einen großen Einfluss auf militärische Technologien durch die Optimierung von Battlefield-Management-Systemen, von militärischer Verwaltung und Bürokratie, wie Logistik und Rekrutierung, oder die automatische Erkennung von militärischen Zielen. Daher hat sie das Potenzial, die Kriegsführung zu beschleunigen.

Als Biosicherheitsexpertin mit fundierten Kenntnissen sowohl der theoretischen als auch der praktischen Aspekte der Biotechnik und Genetik untersuche ich die Vorteile und potenziellen Gefahren neuer (Bio-)Technologien sowie Strategien zur Risikominderung.

Kadri Reis

Abgesehen von der Verstärkung bestehender Dynamiken könnten KI und ML auch das Potenzial haben, Machtstrukturen zu verändern oder sie zumindest in Frage zu stellen. Der Dual-Use-Charakter der Technologien, d. h. ihr Potenzial, sowohl auf legitime als auch auf illegitime Weise genutzt zu werden, beeinflusst gegenwärtige und schafft potenziell neue Probleme für die Rüstungskontrolle.

Beispielsweise könnten nichtstaatliche Gewaltakteure hochgradig leistungsfähige Modelle nutzen, um die Schaffung biologischer Bedrohungen zu unterstützen. Große Sprachmodelle (Large Language Models, LLM) könnten potenziell dazu beitragen, Labors und die Forschung im Allgemeinen zu automatisieren. Experimente könnten entworfen, geplant und schließlich auf automatisierten Anlagen durchgeführt werden. Es wurden bereits mehrere Instrumente zur Vorhersage chemischer Reaktionen und zur Durchführung von Retrosynthesen entwickelt, mit dem Ziel, die chemische Synthese zu automatisieren und damit die Arbeitsbelastung von Forscher*innen zu verringern.

Als Politikwissenschaftlerin mit dem Schwerpunkt Rüstungskontrollforschung untersuche ich die Überschneidungen von technologischen Entwicklungen und politischen Entscheidungen sowie deren Auswirkungen auf die biologische und chemische Abrüstung.

Una Jakob

Allerdings kann KI unter bestimmten Bedingungen auch dazu beitragen, die Rüstungskontrolle effektiver und objektiver zu gestalten, etwa bei der Auswertung von Inspektionsbildern oder bei der Unterscheidung zwischen einem seismischen Ereignis und einem Kernwaffentest. KI hat das Potenzial, bei der Schätzung der Detonationskraft und der Analyse von Nuklearexplosionen zu helfen und so proliferationsrelevante Informationen, beispielsweise über die Konstruktion von Sprengköpfen, zu gewinnen. Einschlägige Technologien, wie die Analyse seismischer Wellenformen, gibt es bereits für virtuelle Tests und die Erkennung realer Kernwaffentests, aber Algorithmen des maschinellen Lernens könnten die Verarbeitung großer Datenmengen sowohl schneller als auch einfacher machen.

Mit meinem multidisziplinären Hintergrund in Maschinenbau und War Studies kann ich die technischen Grenzen des Einsatzes von KI zu Designzwecken auf der mechanischen Seite und ihren taktischen Nutzen auf dem Schlachtfeld verstehen.

Liska Suckau

Im Maschinenbau sind computergestütztes Design und Simulation keine Neuheit, aber maschinelles Lernen hat das Potenzial, die Geschwindigkeit der Optimierung zu erhöhen und damit die Entwicklung neuer Designs und Materialien sowie effizienterer Produktionsketten zu beschleunigen und neue und höhere Grade der Maschinenautonomie zu ermöglichen. Im militärischen Bereich verspricht die Vision eines leichteren Designs einen taktischen, operativen oder sogar strategischen Vorteil gegenüber dem Gegner. Ein Beispiel dafür ist die größere Reichweite eines Kampfjets, dessen Einsatzzeit unter anderem durch den Treibstoffverbrauch begrenzt wird, der durch eine leichtere Bauweise reduziert werden könnte.

Was die Cyber-Sphäre betrifft, so lassen sich im Allgemeinen alle positiven Aspekte von KI und ML auf den Bereich des Cyberspace und der Softwarearchitektur übertragen. Hier ist der Verlust der menschlichen Kontrolle besonders relevant, da die Reaktionszeiten immer kürzer werden, die menschlichen Reaktionszeiten jedoch nicht. Gleichwohl haben KI-gestützte Algorithmen das Potenzial, die Erkennung von leicht verändertem Code zu ermöglichen (anstatt nach exakten Übereinstimmungen zu suchen) und Cyberangriffe durch die Identifizierung ihrer „digitalen Fingerabdrücke“ leichter aufzudecken.

Als Informatiker analysiere ich den Fortschritt der KI und ihren Einsatz in Waffensystemen sowie die Frage, wie sie durch Rüstungskontrollmaßnahmen reguliert werden kann.

Thomas Reinhold

Die Einführung von KI und ML in LAWS (Lethal Autonomous Weapon Systems) und Drohnen wird wahrscheinlich deren Autonomie erhöhen und ihre derzeitigen Probleme mit Latenzzeiten und unterbrochenen oder fehlerhaften Kommunikationsverbindungen ausgleichen, kann aber gleichzeitig die menschliche Kontrolle beeinträchtigen. Ob KI die Verifikations- und Rüstungskontrollprozesse von LAWS und Drohnen positiv beeinflussen wird, ist noch nicht absehbar, da es bis heute keine konkrete Regulierung dieser Waffen gibt.

Als Wirtschaftswissenschaftler mit Grundkenntnissen in Ökonometrie verstehe ich die Grundlagen moderner Lernmodelle, die auf Statistik und der KI zugrunde liegenden Zweck-Mittel-Rationalität basieren.

Niklas Schörnig

Dies sind nur einige von vielen Möglichkeiten, in denen KI und ML Herausforderungen, aber auch Chancen für die Rüstungskontrolle schaffen können. Das Beispiel KI zeigt, wie wichtig es ist, neue Technologien und naturwissenschaftliche Entwicklungen im Kontext der Friedens- und Konfliktforschung zu beobachten und zu verstehen. Um wissenschaftlich fundierte Handlungsempfehlungen geben zu können, ist es nicht nur wichtig, aufkommende Probleme frühzeitig zu erkennen, sondern auch die technische Kompetenz zu haben, diese Probleme zu bearbeiten. Das Cluster für Natur- und Technikwissenschaftliche Rüstungskontrollforschung (CNTR) besteht daher aus einem interdisziplinären Projektteam, das unterschiedliche Perspektiven auf KI und die weiteren Forschungsthemen zusammenführt. (sal)