Daten­schutz meets Verbraucher*innen­schutz

Ein Plädoyer für eine feminis­tische Digital­politik

von Philipp Engelke und Corinna Vetter

Algorithmen in Bewerbungsverfahren, Intelligente Kühlschränke oder Sprachassistenzen wie Siri und Alexa - die Digitalisierung prägt immer stärker unser Leben. Neue technische Produkte und Plattformen digitalisieren unser Leben immer weiter und beeinflussen stark unsere Entscheidungen als Verbraucher*innen. Die Digitalisierung schreitet immer schneller voran und verändert unsere Gesellschaft fundamental.

Dabei wurde die Digitalisierung von Politik und Wirtschaft lange vor allem als ein Prozess zur Steigerung der Innovation und Effizienz der Wirtschaft verstanden. Politisch lag der Fokus dabei darauf, die Digitalwirtschaft möglichst international anschluss- und konkurrenzfähig zu machen sowie nationale “Champions” herzuvorbringen. Diese Prioritäten finden sich auch immer noch als nationale Ziele in der neuen Digitalstrategie der Bundesregierung. Im Vordergrund steht dabei der Ausbau der digitalen Infrastruktur, von Datenräumen sowie die Förderung von Grundlagentechnologie wie Künstliche Intelligenz und die Bereitstellung von digitalen Identitäten. Es ist aber auch Realität, dass Deutschland digitalpolitisch leider nur im Mittelfeld spielt. Auch wahr ist: Die gesellschaftliche Bedeutung der Digitalisierung findet eindeutig zu wenig Beachtung

Datenmacht und Algorithmen bereiten Verbraucher*innen Kopfschmerzen

Digitalisierung hat große Auswirkungen über die Wirtschaft hinaus: unser (Zusammen)Leben wurde durch digitale Technologien sehr stark verändert. Soziale Medien haben die Art und Weise, wie wir in einer globalisierten Welt kommunizieren, neu strukturiert, und stützen sich immer mehr auf Algorithmen die uns zeigen, was vermeintlich wichtig und aktuell ist. Digitale Märkte beschränken sich längst nicht mehr nur auf digitale Anwendungen, Services im Internet oder Endgeräte wie Laptops, Smartphones oder Tablets, sondern halten Einzug in fast alle Geräte, die wir nicht direkt mit digitalen Services in Verbindung bringen würden. So sind beispielsweise technische Geräte wie Sprachassistenzen oder Staubsaugerroboter schon lange ein selbstverständlicher Teil der Haushalte vieler Menschen.

Der Trend geht eindeutig hin zur Vernetzung und Digitalisierung des Konsums - vom Kühlschrank, der eigenständig Lebensmittel nachkauft oder dem Auto, welches autonom fährt. Für Verbraucher*innen kann dies eine große Entlastung im Alltag bedeuten, die vermeintlich ohne großen Aufpreis erworben werden kann. Das ist jedoch ein Trugschluss, da im digitalen Raum nicht länger nur mit Geld, sondern mit Daten bezahlt wird.

Die Wertschöpfung in digitalen Märkten basiert in erster Linie darauf, immense Datenmengen zu sammeln, auszuwerten und Dritten zugänglich zu machen, insbesondere persönliche Daten von Verbraucher*innen. Wer viele Daten im digitalen Raum besitzt, hat entsprechende Macht und Gewinnmöglichkeiten. Es ist dabei jedoch selten klar, für was die Datenmassen genutzt werden und wie sich Gewinne damit realisieren lassen. Insbesondere werden Verbraucher*innen oftmals im Unklaren gelassen, warum sie ihre persönliche Daten an große Digitalunternehmen abgeben müssen. Zwar muss durch eine Pflicht zur Einholung von Cookie- und Datenschutzeinwilligungen ein gewisses Maß an Transparenz gegeben sein, bevor persönliche Daten gesammelt werden dürfen, jedoch wird dies durch komplizierte und undurchsichtige Designs nahezu unmöglich gemacht.

Jedoch stimmt es auch: die Zustimmung ist oft erzwungen, da man ohne sie die Services kaum nutzen kann. Es entsteht ein Ungleichgewicht zwischen denjenigen, die ihre Daten preisgeben und denjenigen, die sie verwenden. So erstellen Digitalunternehmen beispielsweise ausführliche Persönlichkeitsprofile von Verbraucher*innen, um ihnen personalisierte Werbung zum Zwecke der eigenen Gewinnmaximierung anzuzeigen. In Konsequenz entstehen gläserne Verbraucher*innen. Digitalunternehmen wissen häufig mehr über einen selber als die besten Freund*innen oder die Familie. Eine externe Kontrolle über die Nutzung der Daten ist kaum möglich.

Diskriminierung durch Datenmacht

Zuerst mag es noch harmlos erscheinen, personalisierte Werbung angezeigt zu bekommen, jedoch zeigt die aktuelle Debatte um „Period-Tracker“-Apps nach der Aufhebung von Roe v. Wade einmal mehr, wie gefährlich es sein kann, wenn sich Daten in den Händen weniger großer Akteure konzentrieren. Verbraucher*innen in den USA müssen nun befürchten, dass ihre eigenen Daten strafrechtliche Konsequenzen mit sich tragen. Auch wirkt sich die Datenmacht der Unternehmen auf die Preise aus, die Verbraucher*innen zahlen müssen: manche Nutzer*innen zahlen aufgrund ihres Surfverhaltens mehr als andere, etwa aufgrund von Echtzeitanalyse des Surfverhalten und hierauf basierenden ausgespielten personalisierten Rabatte. Eine ähnliche Entwicklung zeigt sich am Versicherungsmarkt. Immer häufiger werden Versicherungsdaten und Algorithmen eingesetzt, um individuelle Risikoprämien für Verbraucher*innen zu berechnen. So gibt es Evidenz, dass Verbraucher*innen in schlechteren Wohnlagen höhere Aufschläge zahlen müssen. Auch versuchen Versicherungen Verbraucher*innen aufzuspüren, welche eher risikoavers sind und sich auf teurere Angebote einlassen. Vulnerable Verbraucher*innengruppen laufen dagegen eher Gefahr, gar nicht mehr oder nur zu sehr hohen Kosten einen Versicherungsschutz zu bekommen.

Die Macht an Daten führt dabei auch zu einer Macht an Algorithmen, die mit diesen Daten trainiert werden. Algorithmen sind dabei keine neutralen Technologien, da sie oftmals mit voreingenommenen, unvollständigen und nicht diversen Datensätzen trainiert werden. Die auf Algorithmen basierenden Services benachteiligen dadurch vor allem die Personen, die in unseren Gesellschaften am meisten ausgegrenzt und benachteiligt werden. Diskriminierungsmuster, Ungerechtigkeiten und Machtgefälle unserer Gesellschaft werden so nicht nur eins zu eins ins Digitale übertragen, sondern sogar verstärkt. So werden beispielsweise sexistische, rassistische und klassistische Vorurteile durch Algorithmen weitergetragen und dabei gleichzeitig – aufgrund der Technisierung – scheinbar objektiv und damit nur schwer anfechtbar gemacht, dass sie die Jobchancen von Frauen, die Kreditwürdigkeit von BIPOC-Personen oder Versicherungsprämien von finanzschwächeren Personen negativ beeinflussen können. Das Patriarchat lebt online weiter fort.

Digitale Machtstrukturen müssen aufgebrochen werden!

Es zeigt sich, dass Verbraucher*innen im digitalen Raum der Macht und Willkür von Digitalunternehmen ausgesetzt sind. Sich dagegen zu wehren ist oftmals nicht möglich. Als Folge verbleibt ein Machtungleichgewicht zwischen individueller Verbraucher*in auf der einen und großen Digitalunternehmen auf der anderen Seite. Durch das sogenannte “Winner takes All”-Prinzip und dem Trend zur wirtschaftlichen Monopolbildung wird dieses Machtungleichgewicht weiter verstärkt. Nach dieser düsteren Analyse stellt sich jedoch die Frage, wie Policymaker*innen im Verbraucher*innenschutz digitalen Machtstrukturen aufbrechen können.

Zunächst muss Digitalisierung als ein Prozess verstanden werden, in welchem bisher Machtgefälle und Ungerechtigkeiten inhärent sind. Doch das muss nicht so bleiben!

Um dieses Problem anzugehen brauchen wir zunächst ein tieferes und strukturelles Verständnis von Machtungleichheiten im digitalen Raum. Wir brauchen eine neue Perspektive, durch die wir Digitalisierung betrachten, analysieren und verändern können. Aus unserer Sicht kann dies nur die Perspektive des Feminismus sein. Durch einen intersektional feministischen Ansatz sind wir in der Lage, über bestehende Erzählungen und Strukturen hinaus zu denken und zu sehen. Die feministische Digitalpolitik ist von Werten wie Zugang, Teilhabe, Nachhaltigkeit und Gerechtigkeit geprägt. Eine feministische Digitalpolitik ist ein Prozess der Hinterfragung, der kontextbasierte Lösungen für konkrete Probleme anbietet und daher keine Programmatik bieten kann. Sie arbeitet bestehende schädliche Machtstrukturen heraus und kehrt sie in eine Politik um, die sich am Gemeinwohl orientiert.

Wir fordern daher die Etablierung einer feministischen Digitalpolitik. Wir fordern eine Digitalpolitik, die diejenigen in den Fokus nimmt, die am negativsten von der Digitalisierung betroffen sind - folgend dem Motto “from the margins to the center”. Wir fordern eine Digitalpolitik, die Verbraucher*inneninteressen in den Vordergrund stellt und aktuelle Innovationsnarrative kritisch untersucht. Wir fordern, dass Digitalpolitik für die 99% gemacht wird.

Hier ist insbesondere die Politik gefragt, die richtigen Weichen zu stellen. Digitalpolitik muss als Gesellschafts- und Sozialpolitik verstanden werden. Digitalpolitik muss Verbraucher*innen in den Fokus nehmen und die Spielregeln zu ihren Gunsten hin verändern und die Macht der großen Techunternehmen begrenzen. Eine feministische Digitalpolitik sollte das Zentrum dieser Veränderung sein.