20171121 UN berät über autonome Waffensysteme

21.11.2017 UN berät über autonome Waffensysteme

Nachdenken über Killerroboter in Genf

Nein, es ist mehr als Nachdenken, es sind ernsthafte Diskussionen unter Experten der Vereinten Nationen (UN), die in Genf zur Zeit stattfinden. Nur wie bei der Ächtung der Atomwaffen sind "die Großen" wieder nicht dabei.

Das Thema LAWS (lethal autonomous weapons systems) wird schon seit 2014 informell bei den Vereinten Nationen diskutiert, aber vom 13. bis 17. November 2017 haben sich Regierungsvertreter zum ersten Mal in einem formellen Rahmen als Expertengruppe innerhalb der CCWUN zusammengefunden. Das ist auch der 2013 gegründeten Campaign to Stop Killer Robots zu verdanken, einer Koalition unterschiedlicher Nichtregierungsorganisationen, wie zum Beispiel Human Rights Watch, die sich für ein präventives Verbot solcher Systeme einsetzen. 21 Staaten sind bisher erst bereit darüber zu verhandeln.

Problematisch ist, das die technologische Entwicklung schneller voran schreitet als die Diskussion über eine mögliche Regulierung auf politischer Ebene. Und wieder sind die an diesen Systemen interessierten Militärs überhaupt nicht bereit ihr Wissen zu teilen oder darüber zu diskutieren.

Gibt es schon einsatzfähige Systeme?

Ein Beispiel wäre die von Großbritannien entwickelte Kampfdrohne Taranis, die Medienberichten zufolge eigenständig nach möglichen Zielen suchen kann. Aber schon jetzt hat jede größere (teurere) Drohne die "Intelligenz" bei Abbruch der Verbindung zu ihrem Startplatz zurückzukehren. Die kürzlich beschriebenen Slaughterbots existieren glücklicherweise noch nicht, aber in den Ideen von Polizeien werden schon "intelligente Drohnenschwärme" eingeplant und die US Marine übt mit Unterwasserdrohnenschwärmen, die den Gegner verwirren sollen.

Warum sollen autonome System geächtet werden?

... vielleicht benehmen sie sich humaner als jetzige Militärs - und schaffen diese dann (endlich) ab ...

Soweit ist es noch nicht. Die Debatte hängt zwischen zwei Polen: Auf der einen Seite wird der gegenwärtige Entwicklungsstand zunehmend autonomer Waffensysteme unterschätzt und auf der anderen Seite werden die Entwicklungsmöglichkeiten "intelligenter" autonomer Waffensystem in der näheren Zukunft deutlich überschätzt. Es muss (glücklicherweise) nicht über den "Terminator" diskutiert werden.

Aber folgende Punkte müssen aus ethischer Sicht diskutiert werden:

Interaktion zwischen Mensch und Maschine
- wer hat die Entscheidungsgewalt
- kann der Mensch die Informationsfülle richtig verarbeiten
- wie viele Entscheidungsmöglichkeiten kann ein Mensch überblicken
- wie lange soll die Maschine auf eine Entscheidung des Menschen warten
kritische Funktionen von Waffensystemen
- Vermeidung von Kollateralschäden
- Entscheidung über Tötung,
- Minimalisierung/Maximalisierung des Schadens
Implementierung von Menschenrechten
- allgemeingültige "Robotergesetze"
- Schutz von Leben vs Selbsterhaltung

... und diese Diskussion sollte nicht den Militärs und der Autoindustrie überlassen werden, denn bereits beim autonomen Auto können und werden vergleichbare Gefahren auftreten.

Mehr dazu bei https://www.heise.de/newsticker/meldung/Verhandlungen-ueber-Killerroboter-in-Genf-3893368.html
und http://home.bt.com/tech-gadgets/future-tech/taranis-unmanned-aerial-vehicle-stealth-11364110510493
und https://www.icrc.org/en/publication/4283-autonomous-weapons-systems

Kommentar: RE: 20171121 UN berät über autonome Waffensysteme

Genau, es geht nicht um Robocop oder eine eierlegende Wollmilchsau. Die Gefahr beginnt viel früher. Schon viele Systeme mit unterschiedlichsten Funktionen können beliebigen Schaden anrichten, auch wenn sie nicht miteinander reden würden, was sie aber sicher könnten.
Shit happens - was schief gehen kann, geht auch irgendwann schief, siehe Fukushima. Was z.B. bei einem autonomen Auto alles schief gehen kann, können wir uns leicht vorstellen.
Der Geist muss in der Flasche bleiben. Bei den Drohnen ist es schon fast zu spät.

Merwan, 23.11.2017 13:09

RE: 20171121 UN berät über autonome Waffensysteme

Ich glaube bei Stanislaw Lem habe ich das mal in einer Geschichte gelesen:
Die Staaten der Erde haben in der Zukunft autonome Waffensysteme, die sich selbst reproduzieren, lernen und sich verbessern können. Per Vertrag wird diese Waffen-Evolution auf den Mond ausgelagert, wo ein permanenter Krieg der Waffensysteme gegeneinander ausgetragen wird.
Dabei gibt es die Regel, dass niemand nachschauen darf, wer gerade die Oberhand hat. Die Entscheidung über Krieg und Frieden muss blind getroffen werden, ohne zu wissen, ob das eigene Waffensystem gerade das Stärkere oder das Stärkste ist.
Das ist die Strategie der Mutually Assured Destruction konsequent literarisch zuende gedacht. Gar nicht so blöd eigentlich, aber wer will schon solche Waffen, außer Militärs, Faschisten und Verbrecher?

Co., 28.11.2017 16:12