Frauen zahlen mehr!

Kaum ein Kredit wird heutzutage noch vom Bankberater - oder für Frauen vielleicht besser von einer Bankberaterin - vergeben. Irgendwelche Algorithmen berechnen die Kreditwürdigkeit und danach bestimmen sich die Kosten und Gebühren für den Kredit. Diese Algorithmen werden immer häufiger von KI-Systemen gesteuert.

Denn KI-Algorithmen können große Datenmengen schnell analysieren und "genauere Einschätzungen der Kreditwürdigkeit" liefern. Doch was liefern diese Systeme? Das haben Forscher der britischen Universität Bath herausgefunden:

Frauen werden systematisch diskriminiert

• Als erstes fanden die Forscher bei der Untersuchung von Kreditentscheidungen in kanadischen Autohäusern heraus, dass der Einsatz von KI die Gewinne der Kreditgeber deutlich steigerte.
• Dann zeigte sich, dass traditionelle Vorurteile, wie Rasse und Hautfarbe keinen merklichen Einfluss auf die Entscheidungen der KI hatte.
• Frauen wurden von der KI jedoch wesentlich ungünstiger eingestuft. Kredite für Frauen waren nicht nur - wie üblich - um 20% ungünstiger, sondern bis zu 42%.

Auch Verkäufer handeln in der Regel für Frauen schlechtere Kreditbedingungen aus als für Männer. Dabei spielt allerdings oft die geringere Durchsetzungskraft von Frauen eine Rolle. Da die KI Systeme mit den Daten bisheriger Kreditentscheidungen trainiert werden, können sie überhaupt nicht "auf die Idee kommen" Frauen günstigere Bedingungen anzubieten.

Merke:

• Vor jedem Einsatz von KI ist zu untersuchen, ob die Algorithmen alle Menschen gleich behandeln.
• Auch im EU KI-Act muss eine Forderung zur Gleichbehandlung aller Menschen eingebaut werden.
• Nur dann ist der Einsatz von KI verantwortungsvoll möglich.

Mehr dazu bei https://www.telepolis.de/features/Bits-und-Bias-Warum-KI-gesteuerte-Kredite-Frauen-teuer-zu-stehen-kommen-9858440.html

Comment

If you like a crypted answer you may copy your public key into this field. (Optional) Public Key

To prevent the use of this form by spam robots, please enter the portrayed character set in the left picture below into the right field.

CC license   European Civil Liberties Network   Bundesfreiwilligendienst   We don't store your data   World Beyond War   Use Tor router   Use HTTPS   No Java   For Transparency