20200216 KI wird zu oft überschätzt

16.02.2020 KI wird zu oft überschätzt

Lineale als Indiz für Hautkrebs

Mmh, das hört sich verdammt nach Übersinnlichem an - ist aber nur das Ergebnis künstlicher Intelligenz (KI).

Mit Kollegen an der US-amerikanischen Uni Stanford hatte der Hautarzt Roberto Novoa einen Algorithmus entwicklet, der aus Bildern von Hautveränderungen entscheiden sollte, welche davon gutartig und welche gefährliche Tumore sind. Das System hatte eine Datenbank von 129.000 Bildern von Hautveränderungen zur Auswahl.

Allerdings legen Dermatologen bei besorgniserregenden Hautveränderungen oft ein Lineal mit ins Foto, um die Größe der problematischen Bereiche zu dokumentieren. Das lernte das System schnell, so dass der Algorithmus auf Bildern immer dann Tumore erkannte, wenn im Bild ein Lineal zu sehen war, denn dessen Vorhandensein ging mit einer größeren Wahrscheinlichkeit für einen problematischen Befund einher.

So hatte der Arzt ein Erkennungswerkzeug für Lineale erfunden ...

Ähnlich erging es einer Firma, die einen "smarten" Seifenspender auf den Markt bringen wollte. Dieser verhielt sich jedoch sehr rassistisch und verweigerte die Seifenlauge, wenn der Interessent eine braune oder schwarze Hautfarbe besaß.

Über Probleme von KI bei der Gesichtserkennung hatten wir in einem anderen Fall bereits berichtet (Gesichtserkennung nur bei weißen Männern zuverlässig ). Und wir erinnern uns, wie der von Microsoft entwicklete "smarte" Chatbot innerhalb weniger Tage zu einem rassistischen Rüpel wurde (Auch künstliche Intelligenz kann rassistisch werden ).

Das Fazit muss also sein: Algorithmen können hilfreich sein, um uns stupide Arbeit abzunehmen, doch sollte man sehr vorsichtig sein ihnen komplexe Probleme zu überlassen.
Nachtrag von Aktiven unserer Arbeitsgruppe "Schule ohne Militär": Dieses Fazit trifft ganz besonders auf den Einsatz von KI bei Drohnen und anderen (teil-)autonomen Waffen zu. Selbst Soldaten machen in kriegerischen Auseinandersetzungen ständig Fehler (Abschuss con Zivilflugzeugen, Bombardierung von Krankenhäusern oder Schulen wie in Kunduz). Wie sollten das beschränkte Roboter bewältigen?

Mehr dazu bei https://www.fluter.de/wie-dumm-ist-das-denn
und https://www.credoweb.at/publication/104194/hautkrebs-diagnostik-automatische-diagnose-von-melanomen
und https://www.nature.com/articles/nature21056