20181026 Tagung "Netzwerk Verbraucherforschung"

26.10.2018 Tagung "Netzwerk Verbraucherforschung"

Vom industriellen Massenkonsum zum individualisierten Digitalkonsum?

Aktion Freiheit statt Angst hat gestern an der Konferenz "Netzwerk Verbraucherforschung" im Bundesministerium für Justiz und Verbraucherschutz teilgenommen. Wie auch die von uns immer wieder gern besuchten Veranstaltungen des Forum Privatheit handelte es sich auch hier um eine interdisziplinäre Konferenz, auf der die Probleme des Verbraucherschutzes von Experten aus verschiedenen Bereichen diskutiert werden.

Für eine vollständige Inhaltsangabe verweisen wir auf die kommende Dokumentation des BMJV, wir wollen aber hier die Statements vorstellen, die aus unserer Sicht für den Verbraucherschutz wichtig sind.

Gerd Billen, Staatssekretär im Bundesministerium der Justiz und für Verbraucherschutz, stellte in seinem Eingangsvortrag fest:

Wir brauchen nicht nur Schutz für die Betroffenen sondern vor allem deren Empowerment.
Wir müssen bei der Digitalisierung dafür sorgen, dass Medienbrüche vermieden werden, zum Beispiel bei Regressansprüchen gegenüber der Bahn (denn die Daten für eine automatische Entschädigung sind vorhanden).
Die allgemeine Forderung nach Individualität darf keine Begründung für ein Bürger Scoring sein und auch nicht werden.
Es gibt seit einiger Zeit eine Ethik-Kommission zur Digitalisierung. Diese muss sich nun damit beschäftigen ob der Saugroboter eine Spinne aufsaugen darf. Schwieriger wird es bei Festlegungen zur Verhaltensweise von selbstfahrenden Autos.

Prof. Dr. Wolfgang König, Technische Universität Berlin, sprach zur "Genese und Zukunft der Konsumgesellschaft". Er behauptet den Wechsel von der Arbeitsgesellschaft zu einer Konsumgesellschaft zu beobachten. Die Voraussetzungen dafür sind Geld, Zeit und eine ausreichenden Marktversorgung. Er beklagt die fehlenden Nachhaltigkeit. Es gibt kein globales Modell, deshalb sieht er eine Regulierung als notwendig an.

Prof. Dr. Steffen Mau, Humboldt-Universität zu Berlin, "Auf dem Weg in die Scoring-Gesellschaft?"
Er zeigt erschreckende Bilder und Beispiele für Scoring, angefangen bei Sport-Apps bis zu den Menschen verfolgende Gesichtserkennung. So berichtet er über Happy Shanghai, einem Scoring Portal in der Stadt, welches den Score aus über 5000 Einzeldaten für jeden Menschen zusammensetzt. Dort wurde von einem deutschen Institut eine Befragung zur Zufriedenheit mit dem System über mehr als 1000 Menschen durchgeführt. Das erschreckende Ergebnis ist, dass 80% der Befragten zufrieden und sehr zufrieden mit dem System sind, lediglich 1% sind unzufrieden oder sehr unzufrieden.

Das System nimmt dem einzelnen Menschen unter Umständen Lebenschancen ohne die Möglichkeit seines Einflusses auf das Scoring Ergebnis. Genauso schlimm, ist, das Ergebnisse des persönlichen Score auch auf Freunde und Bekannte "abfärben" können. Dieses Überschwappen in fremde Bereiche und zu fremden Personen geschieht, weil die Auswertung beziehungsweise der Algorithmus arbeitet ohne den jeweiligen Kontext zu betrachten. Die Differenzierung schlägt über in Diskriminierung, sie führt zu einer weiteren Spaltung der Gesellschaft und könnte den Menschen bei uns unter Umständen die Möglichkeit auf Arbeit, Wohnung und Sozialhilfe nehmen.

Prof. Dr. Alexander Roßnagel, Universität Kassel, über "Quantifizierung der Persönlichkeit – aus grundrechtlicher und datenschutzrechtlicher Sicht"
Er sieht im Scoring einen Grundrechtseingriff, da der Beurteilte die Algorithmen und die Schwellwerte nicht kennt, die zu negativen Einschätzungen führen können. Weiterhin sieht er einen Grundrechtseingriff, weil Werte aus der Vergangenheit auf die Zukunft des Menschen bestimmenden Einfluss nehmen sollen.

Scoring kommt immer dadurch zu Stande, wenn rasch Daten, die zu verschiedenen Zwecken erhoben wurden gemeinsam ausgewertet wurden. Das ist eine Zweckänderung, die dem Art. 6 Datenschutzgrundverordnung widerspricht. Für eine DSGVO-entsprechende Nutzung der Daten wird entweder eine "freiwillige Einwilligung" eingefordert oder als Begründung werden lediglich die "berechtigten Interessen des Unternehmens" angegeben. Geht es bei Nutzung des Scores jedoch nur um individuelle Preisgestaltung oder um Werbung, so kann nach seiner Meinung nicht von "berechtigten Interessen" ausgegangen werden.

Sein Fazit: Wir erleben durch das Scoring eine automatische Anpassung an den Durchschnitt. Es ist verführerisch oder sogar zwanghaft gewünscht der "Mehrheit" anzugehören. So kann nur konformes Verhalten entstehen.

Wir brauchen ein digitales Antidiskriminierungsgesetz !
Die Daten waren mein Eigentum, meine Daten werden verkauft und ich werde Opfer der Berechnung, zum Beispiel falle ich als False Positive aus der Berechnung. Niemand kennt die Algorithmen oder noch schlimmer, in einer KI-Anwendung die Möglichkeiten der Weiterentwicklung dieser Algorithmen.

Prof. Dr. Wolfgang Ullrich, Kunst- und Konsumtheoretiker, Leipzig, über "Demonstrativer Konsum im Social Web. Über Influencer, Hipster, Moralisten und andere
Sozialfiguren"
Sein Vortrag beschäftigt sich mit dem "demonstrativen Konsum". Das Internet wird als Bekenntnismedium benutzt. Man betrachtet den Konsum als moralische Tat und versucht ihn entsprechend zu begründen oder sieht sogar als Arbeitsersatz. Die handelnden Figuren sind Influencer, Hipster, ...
Sie kaufen und propagieren teure Limited Editions, meist mit einer moralischen Begründung, die oft sogar im Angebot mitgeliefert wird. Über die wirkliche Nachhaltigkeit der Produkte wird wenig nachgedacht.

Prof. Dr. Andrea Gröppel-Klein, Universität des Saarlandes, "Von „mental maps“ zur Aktivierung am Point of Sale"
Die beruhigende Aussage war, dass der Onlinehandel bei Lebensmitteln noch unter 4% und bei non food Produkten bei etwa 15% liegt, das heißt der normale Vororteinkauf ist immer noch maßgebend. Auch haben die großen Onlinehändler wie Apple, Amazon, Zalando damit begonnen eigene Geschäfte zu eröffnen. Das mindert nicht deren Marktmacht aber zeigt, dass die Aussagekraft des Scorings im Onlinehandel wohl doch nicht genügend verlässliche Daten liefert.

Im Podiumsgespräch mit den verbraucherpolitischen Sprechern der Parteien stach nur Renate Künast, Bündnis 90/Grüne, mit zukunftsweisenden Ideen hervor.
Sie mag das Wort Verbraucherschutz weniger und möchte betonen, dass es sich um Verbraucherrechte handelt. Sie betont, dass die Worte digital und Innovation keine Werte an sich sind. Sie verlangt Rechte by Design und Ethik by Design. Dazu muss die Ausbildung auch von Informatikern verbessert werden.

Vor allem müssen internationale offene Standards geschaffen und durchgesetzt werden. Für Systeme mit künstlicher Intelligenz muss es rechtliche Rahmen geben. Entsprechende Siegel oder Label wären ein erster Schritt, müssen jedoch von staatlichen Stellen autorisiert werden. Eine Selbstbestätigung durch die Unternehmen reicht nicht!
Bei der UN ist bereits eine Kommission angesiedelt zur Untersuchung der Möglichkeiten und der Ethik autonomer Waffensysteme. Die Staatengemeinschaft muss sich auch mit den Folgen der Digitalisierung beschäftigen.

Zur Zeit arbeitet eine Kommisssion der Bundesrepublik zur Ethik bei der Digitaliserung, vor Jahren hat sehr erfolgreich eine Enquete-Kommission über Jahre gearbeitet und eine Katalog von Forderungen aufgestellt. Die Nachfolgeregierung hat diese unberücksichtigt gelassen. Die Politik ist gefordert Entscheidungen zu treffen!

Als die Gentechnik vor 20 Jahren aufkam wurde sie EU-weit verboten, weil ihre Folgen vorher bereits diskutiert worden waren und sich Widerstand zeigte. Dies wurde bei der Digitalisierung verschlafen. Sie fragt deshalb: Wo ist die soziale Innovation bei der Digitalisierung?
Bei der industriellen Revolution wurde die Geschlechtergleichstellung, die soziale Absicherung, die Krankenversicherung erkämpft, wo ist die Digitalisierungsdividende für die Menschen, die verdrängt werden?
Hier sei ein Bezug zu der zufällig in den Räumen des BMJV anwesenden Ausstellung" Brennende Stoffe" erlaubt. Neben den Tagungsräumen fand gleichzeitig eine Ausstellung über jüdische Modehäuser im Areal rund um den Hausvogteiplatz bis zur Machtergreifung der Nazis 1933 statt. Die dazugehörende Ansichtstafel über die bis zu 100.000 Heimnäherinnen im Berliner Raum um 1925, die den vier großen Modehäusern mit 10-15 Stundenschichten für wenige Groschen täglich zulieferten, stellten eine direkte Verbindung dar zur heutigen Internet basierten Modeindustrie und ihren Produktionsstandorten in Indien, Bangladesch, ...

Prof. Dr. Jörn Lamla, Universität Kassel, stellte in der Zusammenfassung des Tages fest, dass die Politik zu wenig Vorgaben macht und vor allem zu wenig entscheidet. Wir brauchen eine Hintergrundarchitektur, die die gewünschten Möglichkeiten bestimmt. Nur so ist es möglich, von dem Weg "affektiv gesteuert" zu einer "moralisch und nachhaltig gesteuerten Entwicklung zu kommen. Er verweist in diesem Zusammenhang auf das kürzlich erschienene Buch von Shoshana Zuboff, Surveillance Capitalism and the prospects of an information civilization.

Der Tag hat einiges an Anregungen gebracht, hoffentlich auch für die beteiligten PolitikerInnen und die Vertreter des Verbraucherministeriums ...

Mehr dazu bei https://www.bmjv.de/netzwerk-konferenz-2018