20160326 Auch künstliche Intelligenz kann rassistisch werden

Twitter-User machten Microsofts Chatbot zu einem Rüpel

Der Erfolg bei der Erzeugung von künstlicher Intelligenz wäre das bedeutendste Ereignis in der Geschichte des Menschen. Unglücklicherweise könnte es auch das letzte sein. Stephen Hawking

... nein, nicht "zu einem Rüpel" sondern zu einem Rassisten.

Microsoft wollte eine KI erschaffen, welche sich wie ein Teenager verhält, um natürlichere Kommunikation mit einer KI zu testen. Dazu stellte das Unternehmen den Chatbot Tay auf Twitter.

Sobald Tay online war, bombardierten ihn Twitter-Nutzer mit rassistischen Kommentaren, Beleidigungen und frauenfeindliche Beschimpfungen. Tay lernte und das führte dazu, dass er dieses Verhalten annahm und in demselben "Tonfall" seine Äußerungen tätigte.

Tay sollte eine lernende Maschine sein, um mit Menschen zu kommunizieren. Was wir aus dem Experiment lernen können ist, dass KI ohne Moral tatsächlich eine Gefahr werden kann.

Sagen wir dies laut und deutlich allen Konstrukteuren von Drohnen, den bereits fliegenden automatischen Tötungsmaschinen. Auch diese bekommen immer mehr "KI" programmiert, damit sie in "Notfällen" (Abriss der Funkverbindung oder Zerstörung der Leitstelle) ohne menschliche Unterstützung weiter handeln, also töten können.

Kommentar: RE: 20160326 Auch künstliche Intelligenz kann rassistisch werden

In weniger als 24 Stunden twitterte der Bot: "Hitler was right I hate the jews" und er leugnete den Holocaust.
Mehr über die Psyche und die soziale Welt von Bots steht in dem Artikel Wolfgang Balzer bei Telepolis, sehr lesenswert.
https://www.heise.de/tp/features/Was-weiss-ein-Bot-4678332.html

Marlies, 10.03.2020 17:32

Hits: 2374