KI-Freunde können süchtig machen

Menschen, die einsam sind oder kürzlich eine Enttäuschung erlebt haben versuchen immer öfter dies durch eine/n KI-Freund/in zu kompensieren. AI-Companions nennt man diese Programme. Wie solche  Beziehungen zu nicht-menschlichen Agenten aussehen können beschreibt t3n.de so:

Sogenannte AI-Companions sind keine Theorie mehr. Unsere Analyse von einer Million ChatGPT-Interaktionsprotokollen zeigt, dass die zweitbeliebteste Nutzung von KI sexuelle Rollenspiele sind, auch wenn Betreiber OpenAI versucht, sie zu zensieren. Das heißt: Wir haben bereits damit begonnen, KIs als virtuelle Freunde, Mentoren, Therapeuten, Lehrer und sogar Liebhaber in unser Leben einzuladen.

Neben der für die Psyche schädliche Abhängigkeit sind auch ganz reale Gefahren gegeben:

• Wir werden in Echokammern einsperrt.
• Eventuell treffen wir durch die einseitige Information falsche finanzielle Entscheidungen.
• Oder wir werden bei unseren Urteilen und Entscheidungen durch Fehlinformationen verführt.

Diese konkreten und auch die psychischen Gefahren werden im EU KI-Act bisher überhaupt nicht thematisiert. Dies erstaunt selbst KI Forscher, die vor möglichen Schäden warnen, die sich aus einer solchen Zukunft ergeben können. Während Mediensucht durch das Fernsehen ein anerkannter Forschungsgegenstand, werden die Folgen übermäßiger Handy/Smartphone-Nutzung gerade erst angegangen - und generative KI ist anders. Sie kann unendlich viele realistisch klingende Inhalte generieren, die genau auf die Vorlieben der Person zugeschnitten sind, mit der sie interagiert, schreibt t3n.de.

Mehr dazu bei https://t3n.de/news/suechtig-machende-digitale-freunde-warum-addictive-intelligence-eine-gefahr-ist-1639283/

Kommentar

Für eine weitere vertrauliche Kommunikation empfehlen wir, unter dem Kommentartext einen Verweis auf einen sicheren Messenger, wie Session, Bitmessage, o.ä. anzugeben.

Geben Sie bitte noch die im linken Bild dargestellte Zeichenfolge in das rechte Feld ein, um die Verwendung dieses Formulars durch Spam-Robots zu verhindern.

CC Lizenz   Mitglied im European Civil Liberties Network   Bundesfreiwilligendienst   Wir speichern nicht   World Beyond War   Tor nutzen   HTTPS nutzen   Kein Java   Transparenz in der Zivilgesellschaft