Fairness beginnt vor dem Klick

Sie öffnen eine App, um eine einzige Nachricht zu beantworten. Zwanzig Minuten später sind Sie immer noch da. Ein Video beginnt zu spielen, bevor Sie es ausgewählt haben. Das nächste folgt automatisch. Eine Benachrichtigung erscheint genau in dem Moment, in dem Sie die App schließen wollen. Ein Abo zu kündigen dauert sechs Schritte. Es abzuschließen dauerte einen.

Wir schieben solche Erfahrungen oft auf schlechte Gewohnheiten, mangelnde Selbstbeherrschung oder fehlende digitale Kompetenz. Damit entlassen wir die Unternehmen, die sie gestalten, aus der Verantwortung. In Wahrheit sind viele digitale Dienste so konzipiert, dass wir weiter schauen, weiter klicken, weiter kaufen und weiter Daten preisgeben. Sie testen Farben, Formulierungen, Zeitpunkte, Rankings und Benachrichtigungen, um herauszufinden, was uns am wirksamsten ködert. Sie lernen, wann wir zögern, wann wir müde sind und was uns bleiben lässt. Der Druck, der so entsteht, ist selten ein Versehen: Er ist das Geschäftsmodell. 2019 brachten die EU-Verbraucher*innenschutzbehörden Booking.com dazu, mehrere Praktiken zu ändern, darunter irreführende Knappheitsbehauptungen, Rabatte und Rankings.^[1] Solche Hinweise, ein sei Zimmer fast ausgebucht, erinnern uns daran, dass Interface-Design Dringlichkeit erzeugen und uns zu einer Entscheidung drängen kann, die wir sonst vielleicht nicht getroffen hätten.

Deshalb kann digitale Fairness nicht beim letzten Klick beginnen und enden. Wenn Menschen auf „Akzeptieren", „Kaufen" oder „Weiter" klicken, hat der Dienst die Optionen womöglich längst geformt, die Alternativen verborgen und Dringlichkeit erzeugt.

Die gängige Rede von der Wahlfreiheit der Verbraucher*innen unterstellt eine annähernd gleichberechtigte Begegnung zwischen Unternehmen und informierter Person. Online bricht diese Annahme in sich zusammen. Das Unternehmen hat die Daten, die Designer*innen, die Verhaltensforschung und die Macht, die Umgebung in Echtzeit anzupassen. Und was haben wir? Einen kleinen Bildschirm, begrenzte Zeit und keinen Einblick in die Logik, die formt, was wir sehen.

Eine faire digitale Umgebung kann nicht davon abhängen, dass alle permanent auf der Hut sind – und sie sollte es auch nicht. Niemand kann jede Voreinstellung prüfen, jedes Empfehlungssystem entschlüsseln oder jeder strategisch getimten Aufforderung widerstehen. Fairness muss in die Umgebung selbst eingebaut sein, nicht den Fähigkeiten der Nutzenden überlassen. In der Praxis heißt das: Regeln, keine Appelle. Kündigen muss so einfach sein wie Abschließen. Schutz muss die Voreinstellung sein, nicht eine Einstellung. Und einem System, das einen Moment der Schwäche erkennt, darf es nicht gestattet sein, darauf zu reagieren.

Das verändert auch, wie wir über Verletzlichkeit oder Gefährdung denken. Politik behandelt sie oft als festes Merkmal bestimmter Gruppen. Doch digitale Systeme warten nicht auf gefährdete Gruppen. Mehr noch: Sie können Momente der Gefährdung selbst erzeugen und dann auf sie reagieren. Alle Menschen werden leichter beeinflussbar, wenn sie müde, einsam, gehetzt, finanziell unter Druck oder überfordert sind. Wer spätnachts durchs Netz scrollt, bei einem Kauf zögert oder immer wieder zum selben Angebot zurückkehrt, ist in diesem Moment womöglich leichter beeinflussbar. Ein digitaler Dienst kann diese Signale erkennen und anpassen, was er als Nächstes zeigt. Natürlich sind manche Menschen und Gruppen diesem Druck weit häufiger ausgesetzt, und das mit härteren Folgen. Aber der Punkt reicht weiter: Gefährdung wird von Design, Kontext und Macht geformt, nicht nur davon, wer jemand ist.

Hinzu kommt eine kollektive Dimension. Es ist verlockend zu sagen, niemand müsse diese Dienste nutzen. Doch das stimmt immer weniger. Was einmal eine Wahl war, wird zur Pflicht: Behörden, Gesundheitsversorgung oder Sozialleistungen verlangen von Menschen, mit digitalen Systemen umzugehen, die sie sich nicht ausgesucht haben und denen sie nicht ohne Weiteres ausweichen können. Und selbst wo die Wahl bleibt, besteht sie immer nur für Einzelne. Einzelne können eine App schließen, eine Aufforderung ablehnen oder für einen anderen Dienst bezahlen. Eine ganze Gesellschaft kann das nicht. Sie kann nicht einfach aus digitalen Systemen aussteigen, die Kommunikation, Arbeit, Kultur und den Zugang zu Informationen organisieren.

Wenn dieselben kommerziellen Anreize die Dienste formen, die Millionen von Menschen nutzen, bleiben die Folgen nicht privat. Sie entscheiden im Stillen, was sichtbar wird, was verschwindet, welche Stimmen lauter sind als andere und welche Verhaltensweisen allmählich als normal erscheinen. Digitale Fairness betrifft deshalb unser Zusammenleben, nicht nur die Qualität einzelner Transaktionen.

Für mich liegt das Versprechen digitaler Fairness nicht in besserer Selbstverteidigung, sondern darin, dass wir sie weniger brauchen: eine Gesellschaft, die Grenzen dafür setzt, wie Unternehmen uns beeinflussen dürfen. Selbstbestimmung sollte nicht ein weiteres Dashboard voller Einstellungen bedeuten. Sie sollte bedeuten, dass Kündigen so viele Schritte braucht wie Abschließen: einen. Sie sollte bedeuten, einen Dienst nutzen zu können, ohne dass jedes Zögern zum Signal wird, jede Pause zum Anlass einzugreifen und jeder Moment der Schwäche kommerziell verwertbar. Sie sollte bedeuten, dass die Verweigerung von Profiling oder ständiger Interaktion nicht mit schlechterem Service oder sozialem Ausschluss bestraft wird.

Die Debatte ist größer als ein paar ärgerliche Interfaces. Designentscheidungen formen, welche Preise Menschen sehen, welche Möglichkeiten sie überhaupt erreichen und wie schwer es wird, eine digitale Plattform zu verlassen. Auf dem Spiel steht nicht Bequemlichkeit, sondern Zugang zu Informationen, Gleichheit, Datenschutz und Teilhabe. Das sind Machtfragen, auch wenn sie als gewöhnliche Produktentscheidungen daherkommen.

Das heißt: Besseres Design allein wird nie genügen. Unternehmen können einen Button verbessern und dahinter dasselbe Ziel behalten: mehr Daten sammeln, Aufmerksamkeit länger halten, den Ausstieg unwahrscheinlicher machen. Ein faireres Interface kann immer noch auf einem unfairen System gebaut sein. Der eigentliche Test ist, worauf ein Dienst optimiert, wer profitiert, wenn er funktioniert, und wer die Kosten trägt. Sonst wird „nutzer*innenfreundlich" zu einem anderen Wort für reibungslose Extraktion. Und Reibung ist manchmal genau das, was uns schützt.

Europa spricht zunehmend davon, technologische Abhängigkeiten zu verringern. Das ist wichtig, solange wir die Frage richtig rahmen. Denn Herkunft ist ein schlechter Indikator für Fairness: Eine ausländische Plattform durch eine europäische zu ersetzen bringt wenig, wenn der neue Dienst auf derselben Extraktion, demselben Profiling und demselben Verhaltensdruck beruht. Jedes ernsthafte Projekt digitaler Selbstbestimmung darf sich deshalb nicht damit begnügen zu fragen, wem die Technologie gehört. Es muss fragen, welchem Geschäftsmodell sie dient, wer sie gestalten kann und welche Grenzen ihrer Macht gesetzt sind. Ohne digitale Fairness läuft Souveränität Gefahr, ein Wechsel des Anbieters zu werden statt eines Wechsels der Machtverhältnisse.

Eine faire digitale Zukunft sollte nicht verlangen, dass alle Expert*innen darin werden, Manipulation zu durchschauen, sondern sie sollte manipulatives Design zu einer schlechten Geschäftsstrategie machen.

^[1]Autoriteit Consument & Markt (ACM): Booking.com Commits to Adjusting Its Website Following Action by European Consumer Authorities, 2019, https://www.acm.nl/en/publications/bookingcom-commits-adjusting-its-website-following-action-european-consumer-authorities