20240813 In der Echokammer der virtuellen Zuneigung

KI-Freunde können süchtig machen

Menschen, die einsam sind oder kürzlich eine Enttäuschung erlebt haben versuchen immer öfter dies durch eine/n KI-Freund/in zu kompensieren. AI-Companions nennt man diese Programme. Wie solche Beziehungen zu nicht-menschlichen Agenten aussehen können beschreibt t3n.de so:

Sogenannte AI-Companions sind keine Theorie mehr. Unsere Analyse von einer Million ChatGPT-Interaktionsprotokollen zeigt, dass die zweitbeliebteste Nutzung von KI sexuelle Rollenspiele sind, auch wenn Betreiber OpenAI versucht, sie zu zensieren. Das heißt: Wir haben bereits damit begonnen, KIs als virtuelle Freunde, Mentoren, Therapeuten, Lehrer und sogar Liebhaber in unser Leben einzuladen.

Neben der für die Psyche schädliche Abhängigkeit sind auch ganz reale Gefahren gegeben:

Wir werden in Echokammern einsperrt.

Eventuell treffen wir durch die einseitige Information falsche finanzielle Entscheidungen.

Oder wir werden bei unseren Urteilen und Entscheidungen durch Fehlinformationen verführt.

Diese konkreten und auch die psychischen Gefahren werden im EU KI-Act bisher überhaupt nicht thematisiert. Dies erstaunt selbst KI Forscher, die vor möglichen Schäden warnen, die sich aus einer solchen Zukunft ergeben können. Während Mediensucht durch das Fernsehen ein anerkannter Forschungsgegenstand, werden die Folgen übermäßiger Handy/Smartphone-Nutzung gerade erst angegangen - und generative KI ist anders. Sie kann unendlich viele realistisch klingende Inhalte generieren, die genau auf die Vorlieben der Person zugeschnitten sind, mit der sie interagiert, schreibt t3n.de.

Hits: 160