20240603 Kontrolle durch Algorithmen

03.06.2024 Kontrolle durch Algorithmen
Sorry, most articles are not available in English yet

Nippel oder Ni -- cht?

Die Nippel-Phobie - diskriminierenderweise gegenüber der weiblichen Brust - kennt man aus den USA schon lange. Nun schwappt sie mit den diversen a-sozialen Netzwerken auch nach Europa. Und die Behörden der EU versuchen möglichst viele Bereiche des Internets hinter Ausweisschranken zu stellen.

Dass auch das nur schiefgehen kann, zeigen die "Bemühungen" der genannten a-sozialen Netzwerke. Sebastian Meineck zählt auf Netzpolitik.org deren vergebliche Versuche in seinem Artikel "Die nackte Panik" auf und nennt konkrete (und lesenswerte!) Beispiele

auf Instagram,
mit Google Safe Search,
mit YouTubes eingeschränktem Modus,
bei DALL-E,
bei Twitch,
selbst mit JusProg.

JusProg, also Jugendschutzprogramm.de, ist eine Anwendung des Justizministeriums und soll Eltern die Sicherheit geben, dass ihre Kinder nicht "auf die falschen Seiten" im Internet kommen. Auch hier - wo wir Profitinteressen privater Internetkonzerne ausschließen können - klappt das nicht. Der Autor hat mit Kolleg*innen von BR Data recherchiert und festgestellt, dass insgesamt 74 Websites zu besonders sensiblen Themen, die eigentlich für Minderjährige Aufklärung liefern sollten von JusProg gesperrt wurden. Immerhin konnte er seine Ergebnisse dem Ministerium zukommen lassen und man hat auf seine Recherche reagiert. Bereits kurze Zeit nach der Kontaktaufnahme war ein Großteil der betroffenen Seiten nicht mehr erst „ab 18 Jahren“.

Ganz anders ist die Situation bei den anderen Genannten. Ihre Zensurmaßnahmen sind willkürlich, bei Beschwerden wird man schnell mit Account-Sperrung bedroht. Ebenso, wie eine Logik der Zensur nicht erkennbar ist, so leicht läßt sie sich oft umgehen. Das ist auch nicht verwunderlich, denn die Maßnahmen werden - wie alle unsere "Ergebnisse" im Internet durch Algorithmen gesteuert. Diese sind in der Mehrzahl unverständlich aber auch manchmal leicht auszutricksen.

So reicht es oft Worte wie Sex duch Seggs oder S-x zu ersetzen. Für diesen Artikel heißt das natürlich, dass er unter eine Altersbeschränkung fällt, weil alle Alternativen drin stehen ...

Was wären die Alternativen?

Dazu zuerst die Frage: Woher kommt dieser neue Prüdismus? Die Begriffe Nacktheit und Sexualität werden pauschal mit Gefahr verknüpft ohne zu schauen in welchem Zusammenhang sie auftreten. Nach dieser Erkenntnis kann man alle Automatismen nur noch in die Tonne treten, denn selbst mit "KI" gelingt es nicht die ungeheure Vielfalt des menschlichen Lebens richtig zu beurteilen.

Was wir bekommen, sind in jedem Fall nur technische Scheinlösungen. Sebastian Meineck stellt fest:

Weder Instagram noch Google oder YouTube noch JusProg wollen gerne an die große Glocke hängen, inwiefern ihr Overblocking im Namen des Jugendschutzes systematisch Grundrechte einschränkt. ...
Blockaden und Filter im Internet sind kein Übermaß an Fürsorge, sondern ein Mangel an Fürsorge. Algorithmen, KIs und Filter sind billige, fehlerhafte, technische Scheinlösungen, die vielleicht Aufsichtsbehörden und Gesetzgeber zufrieden stimmen.

Und seinem Fazit können wir uns nur voll anschließen:

Ich fordere nicht, dass man sich weniger kümmert oder gar nichts mehr täte, um Minderjährigen im Netz Schutz zu geben. Im Gegenteil, ich fordere, dass man sich mehr kümmert. Blockaden und Filter im Internet sind kein Übermaß an Fürsorge, sondern ein Mangel an Fürsorge.

Und für uns alle - egal ob unter oder über 18 - sind die Maßnahmen eine unzulässige Zensur und ein Eingriff in unsere Grundrechte.

Mehr dazu bei https://netzpolitik.org/2024/die-nackte-panik-eine-welle-von-overblocking-rollt-heran/