Chelsea Manning warnt vor Massenüberwachung und -steuerung

Softwareentwickler, Programmierer und Systemtechniker sind in einer ähnlichen Situation wie etwa Ärzte, sagte Chelsea Manning im Frühjahr diesen Jahres auf der re:publica. Die Whistleblowerin bezog sich dabei auf die Gefahren, die durch unsichere und gefährliche Software drohen.

Diese Gefahren sind vielfältig:

• verstärkte Massenüberwachung,
• undurchsichtige Entscheidungsfindung durch Algorithmen im täglichen Leben,
• Automatisierung und Militarisierung der Polizei,
• Automatisierung der Kriegsführung, z.B. durch Drohnen.

Sie meinte, vor 30 Jahren wäre noch Zeit gewesen über das Wie von künstlicher Intelligenz (KI) nachzudenken, heute muss diese ungeplante Entwicklung gestoppt werden. "Wir sind mitschuldig an der Software, die wir schreiben, wie sie verwendet und missbraucht wird",sagte sie aus Sicht der Programmierer. daher die Forderung nach einer eigenen Ethik.

Bereits in ihrem eigenem Leben, als sie 2010 für die US-Streitkräfte im Irak gearbeitet habe, seien auf Grund von "Big Data", auch wenn das Wort damals noch unbekannt war, basierend auf fehlerhaften Datensets und Algorithmen durch das Militär "Entscheidungen über Leben und Tod" gefällt worden.

Deshalb sei es wichtig zu wissen, Algorithmen und Systeme für Künstliche Intelligenz keine "neutrale" Technik seien. In alle Algorithmen fließen die Vorurteile der Programmierer und die stets vorhandenen Fehler der verwendeten Datensets ein.

Mehr dazu bei https://www.heise.de/newsticker/meldung/Chelsea-Manning-auf-der-re-publica-2018-Programmierer-sind-mitschuldig-wenn-ihre-Software-4039106.html

Kommentar

Für eine weitere vertrauliche Kommunikation empfehlen wir, unter dem Kommentartext einen Verweis auf einen sicheren Messenger, wie Session, Bitmessage, o.ä. anzugeben.

Geben Sie bitte noch die im linken Bild dargestellte Zeichenfolge in das rechte Feld ein, um die Verwendung dieses Formulars durch Spam-Robots zu verhindern.

CC Lizenz   Mitglied im European Civil Liberties Network   Bundesfreiwilligendienst   Wir speichern nicht   World Beyond War   Tor nutzen   HTTPS nutzen   Kein Java   Transparenz in der Zivilgesellschaft