Nationen diskutieren über die Zukunft von KI-Waffen bei den UN

Nationen versammelten sich am Montag bei der UN-Generalversammlung in New York, um über die Zukunft von KI-gesteuerten autonomen Waffen und mögliche Regulierungen für ihren Einsatz zu diskutieren. Experten warnen vor einer wachsenden Dringlichkeit und verweisen auf einen Mangel an internationaler Übereinstimmung und begrenzte Zeit.

Laut Reuters spielt die KI bereits eine bedeutende Rolle in aktuellen Konflikten, insbesondere in Regionen wie der Ukraine und Gaza. Vor einigen Monaten enthüllte die Ukraine, dass sie etwa 2 Millionen Stunden an Schlachtfeldmaterial gesammelt hat, um KI-Systeme zu trainieren.

Regulatorische Rahmenbedingungen für KI-Technologien haben Schwierigkeiten, Schritt zu halten. Obwohl Diskussionen über autonome Waffen seit 2014 auf der Konvention über bestimmte konventionelle Waffen (CCW) in Genf laufen, wurden bis heute keine verbindlichen globalen Vorschriften festgelegt.

UN-Generalsekretär António Guterres hat 2026 als Ziel gesetzt, einen internationalen Konsens über einen neuen rechtlichen Rahmen zu erreichen.

„Die Zeit läuft wirklich davon, um einige Sicherheitsmaßnahmen einzuleiten, damit die Albtraumszenarien, vor denen einige der bekanntesten Experten warnen, nicht eintreten“, sagte Alexander Kmentt, Leiter der Rüstungskontrolle im österreichischen Außenministerium, gegenüber Reuters.

Neben autonomen Waffen werden in den Treffen dieser Woche auch andere kritische Themen wie Menschenrechte und ethische Bedenken sowie die Beteiligung von nichtstaatlichen Akteuren angesprochen. Während die meisten Länder die Schaffung eines verbindlichen globalen Rahmens unterstützen, bevorzugen andere – wie China, die Vereinigten Staaten, Indien und Russland – sich auf bestehende internationale Gesetze oder nationale Richtlinien zu verlassen.

Mehrere Organisationen, einschließlich Human Rights Watch, haben ihre Besorgnis über die Ausbreitung unregulierter autonomer Waffen in verschiedenen Regionen geäußert. Das Future of Life Institute hat etwa 200 autonome Waffensysteme identifiziert, die an Orten wie Afrika, dem Nahen Osten und der Ukraine eingesetzt werden.

„Wir vertrauen in der Regel der Industrie nicht, sich selbst zu regulieren… Es gibt keinen Grund, warum Verteidigungs- oder Technologieunternehmen mehr Vertrauen verdienen sollten“, sagte die Aktivistin Laura Nolan von Stop Killer Robots gegenüber Reuters.

Der Einsatz von KI und autonomen Systemen zur Entwicklung von Waffen gewinnt in der Tech-Branche immer mehr an Bedeutung. Google hat sein Verbot der KI-Nutzung für Waffen vor einigen Monaten aufgehoben, chinesische Forscher verwenden Metas Llama-Modell für militärische Anwendungen und das Start-up Theseus hat kürzlich 4,3 Millionen Dollar eingesammelt, um autonome Drohnen zu entwickeln.