Wandelbare Resultate

Wie elementar für solche automatisierten Berechnungen die Wahl der verwendeten Daten ist, zeigte Simon Hegelich, Professor für Political Data Science an der Technischen Universität München, im Rahmen eines kurzen Input-Referats an der diesjährigen Re:publica in Berlin auf. Die Re:publica ist die europaweit grösste Messe zu den Themen Digitalisierung und Gesellschaft – sie fand vom 2. bis 4. Mai statt.

Die Problematik demonstrierte der Forscher anhand einer Simulation aus dem Bereich Human Resources. Hegelich nutzte dafür ein Lehrbeispiel von IBMs Machine Learning Service Watson – mit einem dazugehörigen Werbevideo, das der Forscher dem Publikum vorab zeigte. Darin ist zu sehen, wie die Software HR-Mitarbeitern zeigt, welche Gründe bei Mitarbeitenden die Wahrscheinlichkeit füreinen Jobwechsel erhöhen. Im Werbevideo kam IBM zum Schluss, dass die Überzeit der wichtigste Faktor dafür ist. Wie Hegelich aufzeigte, kam bei der beispielhaften Analyse eine Klasse von Algorithmen – sogenannte Entscheidungsbäume – zum Einsatz. Er baute diese exakt nach und führte die Simulation mit den identischen Daten erneut durch. Dabei testete er, was passiert, wenn der Algorithmus mit weniger Daten gefüttert wird. Prompt veränderte sich das Resultat.

Zum Befund IBMs sagte Hegelich: «Dieses Ergebnis ist nicht besonders robust, im Gegenteil. Es ist ziemlich zufällig. Man hätte das vermeiden können, wenn man einen anderen Algorithmus gewählt hätte.» Auch das testete er aus. Dabei kam er – anders als IBM – zum Schluss, dass gar nicht die Überzeit, sondern das monatliche Einkommen die wichtigste Variable ist. Problematisch am Verfahren IBMs ist laut Hegelich zudem, dass nicht nur eine kleinere Datenmenge, sondern auch Modifikationen in einzelnen Datenpunkten bereits grosse Veränderungen in den Ergebnissen hervorrufen können. Das heisst umgekehrt: Wer Algorithmen programmiert und Daten pflegt, trägt eine grosse Verantwortung.

Eine ähnliche Bilanz zieht die berühmte Whistleblowerin Chelsea Manning. Sie war an der Digitalkonferenz in Berlin ebenfalls zugegen und sprach mit zwei Journalistinnen über Verantwortungsbewusstsein, Moral und Ethik im Zusammenhang mit digitalen Technologien. Manning arbeitete als IT-Spezialistin für die US-Streitkräfte, als sie 2010 verhaftet wurde, da sie zahlreiche interne Videos und Dokumente kopiert und der Enthüllungsplattform WikiLeaks zugespielt hatte. Sie wurde schliesslich zu einer 35-jährigen Freiheitsstraffe verurteilt. Kurz vor seinem Abgang aus dem Weissen Haus begnadigte der ehemalige US-Präsident Barack Obama die mittlerweile 31-Jährige.

Manning plädierte dafür, ethische Fragen bereits bei der Entstehung von Software-Produkten anzupacken. Dann könnten die Probleme von Entwicklern nämlich noch am effektivsten gelöst werden. Deshalb nimmt sie besonders ihre Berufskolleginnen und Berufskollegen in die Pflicht. «Wir ignorieren die ethischen Verpflichtungen, die wir als Entwickler haben. Wir als Entwickler sind mitverantwortlich für die Software, die wir schreiben – und aus meiner Sicht auch, wie sie gebraucht oder missbraucht wird.» Von der Branche fordert Manning deshalb auch einen Kulturwandel. «Wir können der Gesellschaft nicht einfach Werkzeuge an die Hand geben, ihr es dann aber selbst überlassen herauszufinden, wie man damit umgeht.» Die Verantwortung von Software-Entwicklern gegenüber der Gesellschaft vergleicht sie mit der von Ärzten. Auch die Tech-Branche brauche deshalb – ähnlich wie sie in der Medizin vorhanden sind – ethische Standards, um basierend darauf Entscheidungen zu treffen und zu handeln, sagte Manning.

An der Re:publica warnte die Whistleblowerin ganz generell vor dem wachsenden Einfluss von Algorithmen und künstlicher Intelligenz auf die Gesellschaft. «Algorithmen sind nicht neutral. Sie enthalten alle Vorurteile, die im Datensatz vorhanden sind, den man ihnen liefert. Und es gibt nicht wirklich einen Weg, das zu verhindern, es sei denn, man beobachtet den Algorithmus aktiv und verschafft sich einen Blick über dessen ethische Auswirkungen auf die Gesellschaft», sagte die Whistleblowerin.