Autonome Waffensysteme: Die UN befürchtet, dass Maschinen bald über Leben und Tod entscheiden werden.

UN-Generalsekretär António Guterres und die Präsidentin des Internationalen Komitees vom Roten Kreuz, Mirjana Spoljaric, fordern die Staaten dringend auf, autonome Waffensysteme zu regulieren. Diese Geräte können nach ihrer Aktivierung selbstständig ein Ziel auswählen und Gewalt anwenden, ohne dass ein Mensch eingreifen muss. Laut den beiden Politikern nähert sich die Welt gefährlich einer „moralischen roten Linie“, die überschritten wäre, wenn eine Maschine eigenständig entscheiden könnte, einen Menschen anzugreifen.

Die UN und das IKRK hatten bereits 2023 eine ähnliche Warnung ausgesprochen, ohne jedoch die Verabschiedung verbindlicher internationaler Regeln zu erreichen. Seitdem haben rasante Fortschritte in den Bereichen künstliche Intelligenz, Robotik und Militärtechnologien die Kluft zwischen verfügbaren Fähigkeiten und rechtlichen Standards weiter vergrößert. In ihrer gemeinsamen Erklärung warnen sie ausdrücklich vor den zusätzlichen Risiken für Zivilisten und kritische Infrastrukturen.

Ein internationaler Vertrag wird gefordert, bevor es zu spät ist.

Die beiden Organisationen fordern kein generelles Verbot aller automatisierten Militärtechnologien. Sie verlangen vielmehr ein rechtsverbindliches Instrument mit konkreten Verboten und strengen Beschränkungen. Systeme, die darauf ausgelegt sind, ohne menschliche Kontrolle direkt auf Personen zu zielen, sollten verboten werden, während andere autonome Waffensysteme weiterhin Beschränkungen unterliegen sollten, die die Einhaltung des humanitären Völkerrechts gewährleisten.

Die vor einigen Jahren in Genf begonnenen Gespräche kommen nur schleppend voran, obwohl Staaten massiv in diese Technologien investieren. Die für November 2026 geplante Überprüfungskonferenz des Übereinkommens über bestimmte konventionelle Waffen könnte den Weg für echte Verhandlungen ebnen. Für die UN und das IKRK würde ein Abwarten der breiten Anwendung dieser Systeme deren Kontrolle erheblich erschweren und die Gefahr bergen, dass Entscheidungen über Leben und Tod an Algorithmen delegiert werden – Entscheidungen, für die kein Mensch die volle Verantwortung übernehmen könnte.