20181213 Programmierer brauchen verpflichtende Ethik

Chelsea Manning warnt vor Massenüberwachung und -steuerung

Softwareentwickler, Programmierer und Systemtechniker sind in einer ähnlichen Situation wie etwa Ärzte, sagte Chelsea Manning im Frühjahr diesen Jahres auf der re:publica. Die Whistleblowerin bezog sich dabei auf die Gefahren, die durch unsichere und gefährliche Software drohen.

Diese Gefahren sind vielfältig:

verstärkte Massenüberwachung,

undurchsichtige Entscheidungsfindung durch Algorithmen im täglichen Leben,

Automatisierung und Militarisierung der Polizei,

Automatisierung der Kriegsführung, z.B. durch Drohnen.

Sie meinte, vor 30 Jahren wäre noch Zeit gewesen über das Wie von künstlicher Intelligenz (KI) nachzudenken, heute muss diese ungeplante Entwicklung gestoppt werden. "Wir sind mitschuldig an der Software, die wir schreiben, wie sie verwendet und missbraucht wird",sagte sie aus Sicht der Programmierer. daher die Forderung nach einer eigenen Ethik.

Bereits in ihrem eigenem Leben, als sie 2010 für die US-Streitkräfte im Irak gearbeitet habe, seien auf Grund von "Big Data", auch wenn das Wort damals noch unbekannt war, basierend auf fehlerhaften Datensets und Algorithmen durch das Militär "Entscheidungen über Leben und Tod" gefällt worden.

Deshalb sei es wichtig zu wissen, Algorithmen und Systeme für Künstliche Intelligenz keine "neutrale" Technik seien. In alle Algorithmen fließen die Vorurteile der Programmierer und die stets vorhandenen Fehler der verwendeten Datensets ein.

Hits: 1468