20220409 "Modernste Technologie" beschäftigt Ermittler

KI findet 66% False Positves

Bei der Vorstellung der Kriminalitätsentwicklung in Deutschland konnte Frau Faeser insgesamt einen Rückgang feststellen, vor allem weiterhin bei Wohnungseinbrüchen. Im Gegensatz zur realen Welt gab es dagegen in der virtuellen Welt einen starken Anstieg bei der Cyberkriminalität.

Wie netzpolitik.org berichtet, ist das auch eine Folge des Einsatzes "modernster Technologie" auf diesem Gebiet. Die deutsche Medienaufsicht hat begonnen mit „Künstlicher Intelligenz“ (KI) massenhaft Rechtsverstöße im Netz aufspüren. Das neue KI-Tool namens KIVI sucht jetzt für die Medienaufsicht im Netz nach Extremismus, Volksverhetzung, Hakenkreuze, Pornografie oder Verherrlichung von Drogen.

KIVI untersucht für bereits 14 Landesmedienanstalten Texte, Bilder und einzelne Frames von Videos auf klassischen Websites sowie auf Telegram, Twitter, YouTube, TikTok, dem russischen Facebook-Konkurrenten VKontakte und dem Videoportal Bitchute. Das Ergebnis sind bisher

20.000 potentielle Verstöße innerhalb eines Jahres erkannt.

Nach Aussortieren der irrtümlichen Treffer durch "menschliche Intelligenz" blieben 6.700 Verstöße, also 66% False Positives(!) .

Diese führten dann zu Meldungen bei den Plattformen und zu Strafanzeigen.

Nun möchte die Medienaufsicht einen "direkten Draht" zum BKA und eine Zusammenarbeit mit entsprechenden anderen Institutionen in den EU Staaten. Das dafür schon geschaffene Gremium ist die Regulierungsbehörde der 27 EU-Mitgliedstaaten namens ERGA (European Regulators Group for Audiovisual Media Services).

Fazit: Wieder eine Bürokratie mehr - wieder mehr Überwachung - wieder mehr Digitalisierung
Problem nach Aussagen aus der Medienaufsicht: Man könne KIVI auch 24/7 laufen lassen, problematisch sei die Menge der Treffer ...

Ach ja, nicht zu vergessen: Das grundsätzlich Problematische bleibt die Reihenfolge des Vorgehens, denn nicht der von Kriminalität oder Hass Betroffene macht eine Anzeige bei der Polizei und diese klärt und führt zu Bestrafung, sondern ein digitales Tool analysiert, die privaten Provider werden zur Sperrung/Zensur aufgefordert und erst im letzten Schritt wird der Fall "juristisch" betrachtet.

Aufrufe: 667

Kommentar abgeben