Wie Algorithmen uns helfen - und manipulieren

Big Data Analytics ist wertneutral. Die neue Technologie kann uns helfen, Kranke besser zu behandeln, Verkäufe von Produkten exakter zu prognostizieren und Maschinen effizienter zu warten. Sie hat aber auch eine dunkle Schattenseite. Big Data eignet sich - wie Big Brother und Big Deal - ganz hervorragend als Kontroll- und Überwachungsinstrument. Jennifer Helsby von der Universität Chicago sieht die Technologie mit kritischen Augen. "Die Werte, die für uns wichtig sind, werden nicht automatisch in die Systeme integriert", sagte die Wissenschaftlerin auf dem 32ten Chaos Communication Congress (32C3). Ein besonders besorgniserregendes Beispiel ist das Social Credit System, das die chinesische Regierung zurzeit einrichtet, um seine Bürger zu kontrollieren.

Begonnen habe das chinesische Social Credit System in bester Absicht, nämlich als Datenbank über die Zahlungsfähigkeit der Bürger. Ähnliche Datenbanken werden auch in der Schweiz und in Deutschland vorgehalten. Bis 2020 will China den Datenspeicher jedoch um einen Scoring-Wert für das Online-Benehmen eines jeden Bürgers erweitern. Dazu gehören zum Beispiel, welche Kommentare ein Bürger hinterlässt, welche Produkte er eingekauft und was er online gelesen hat. Viele Teilnehmer sähen das System bislang positiv, sagte Helsby. So bekämen Leute mit guten Scoring-Werten zum Beispiel einen besseren Service in Hotels geboten. Die Kehrseite: Menschen am unteren Ende der Staatsbürger-Skala haben Probleme damit, eine Wohnung oder einen Arbeitsplatz zu finden. Reisevisa werden für die unsicheren Kandidaten nur zögerlich ausgestellt. Helsby sieht daher in dem System ein "subtiles und hinterhältiges Mittel der sozialen Kontrolle", das Wohlverhalten fördere. Ein mündiger Bürger sieht anders aus.

Ein Schweizer Case: Die Kantonspolizei Zürich setzt die Prognosesoftware PreCobs zur Verbrechensprävention ein. Die Algorithmen machen sich eine verhaltenspsychologische Tatsache zunutze: Menschen handeln nach Mustern. Verbrecher kehren wie Pilzsammler oft in das Quartier zurück, in dem sich ehemals erfolgreich waren. PreCobs berechnet nun aufgrund von bereits verübten Delikten die Wahrscheinlichkeit, dass im gleichen Quartier wieder ein Einbruch geschieht. Als Prognoseparameter dienen unter anderem der Ort des Verbrechens, die Zeit, der Tathergang und die erzielte Beute. Dank PreCobs soll in Zürich die Zahl der Einbrüche um signifikante 30 Prozent zurückgegangen sein. Vorreiter der Verbrechensbekämpfung mittels Big Data war das Polizei-Department von Chicago. Die Amerikaner führten eine Hotlist, auf der Personen standen, die in naher Zukunft mit hoher Wahrscheinlichkeit ein Verbrechen begehen würden. Die Kandidaten standen sozusagen unter virtuellem Tatverdacht, auch wenn sie bislang noch nicht straffällig geworden waren.

2010 ging im Nachbarland Grossbritannien das "Behavioural Insights Team" an den Start. Die Verhaltenspsychologen wollen das gesellschaftliche Leben im Vereinigten Königreich optimieren, indem sie Bürger in die richtige Richtung stupsen (nudge people). Ein Beispiel: 11,1 Prozent aller Patienten versäumen es, pünktlich zu einem ambulanten Behandlungstermin im Krankenhaus zu erscheinen. Sie lassen den Termin einfach sausen, und verursachen dadurch erhebliche Fehlkosten. Denn die Zahl der versäumten Arzttermine summiert sich jedes Jahr auf 5,5 Millionen. Eine clevere Erinnerungs-SMS hat die Ausfallquote von 11.1 auf 8,5 Prozent reduziert. Dort stand, dass ein ausgefallener Termin Kosten in Höhe von 160 britischen Pfund verursachen würde. Ohne dass die säumigen Patienten das Geld selbst bezahlen müssten. Allein die Erinnerung ein paar Tage vorab hielt die Briten zu mehr Termintreue an. Dagegen ist nichts zu sagen. Säumigen Steuerzahlern redeten die Verhaltenspsychologen nach einer ähnlichen Methode ins Gewissen. 90 Prozent aller Steuerzahler in ihrem Quartier haben bereits bezahlt - nur Sie nicht. Das Argument überzeugte viele. Ob die 90 Prozent stimmen, bleibe einmal dahin gestellt.

Die gleiche Technik wäre aber auch auf politische Wahlen applizierbar, zum Beispiel: Die Mitgliedschaft in der EU kostet Sie jedes Jahr 1100 Pfund. Stimmen Sie für den Brexit, den Austritt des britischen Königreiches aus der Europäischen Union. Oder für den Verbleib, weil ein EU-Austritt jedes Jahr mit 2400 auf der Kostenseite zu Buche schlagen würde. Konservative und Linke werden durch jeweils andere Argumente angesprochen. Welche das sind, enthuellt zum Beispiel eine Analyse ihrer Kommentare in sozialen Netzwerken. Der Psycho-Politik, unterstützt durch Big Data, steht noch eine grosse Zukunft bevor.