Recht & IT
24.09.2021, 12:35 Uhr
Unfaire Entscheidungen durch künstliche Intelligenz
Künstliche Intelligenz ist in vielen Bereichen auf dem Vormarsch. Immer mehr Entscheidungen werden zumindest teilweise darauf abgestützt. Doch was passiert, wenn KI auf Basis von Daten urteilt, die unfair oder voreingenommen sind?
Bereits gut trainiert schien auf den ersten Blick der Basketball-Roboter CUE 3 von Toyota. An den Olympischen Spielen versuchte er sich an Freiwürfen und traf den Korb sogar von der Mittellinie aus. Als er einen Tag später nochmals antrat, wollte es allerdings schon nicht mehr klappen. Er hat also wohl doch noch einiges zu lernen
(Quelle: Press Association Images/Martin Rickett)
Zwei Jahre ist es schon her. Aber wer sich mit Machine Learning befasst, wird sich mit Sicherheit noch an eine Studie der Association for Computational Linguistics aus dem Jahr 2019 erinnern: Mit der Methode des «Unsupervised Learning» wertete ein Computer 3,5 Millionen Bücher aus der Zeit zwischen 1900 und 2008 automatisiert aus. Der Datenpool wurde darauf analysiert, wie unterschiedlich Frauen und Männer dargestellt werden.
Die Ergebnisse der Analyse zeigten, dass Frauen hauptsächlich auf ihre Schönheit und ihren Körper reduziert werden, während bei Männern vorwiegend ihre Persönlichkeit und ihr Verhalten beschrieben werden. Die Ergebnisse scheinen Stereotypen zu zementieren, die aus heutiger Zeit betrachtet fehl am Platz sind.
Was zeigt uns diese Studie?
Bei KI handelt es sich vereinfacht gesagt um künstliche neuronale Netze, bestehend aus Algorithmen, die mittels Machine Learning anhand historischer Daten trainiert werden. Mit anderen Worten: Der Computer lernt aus unserer Vergangenheit und entwickelt daraus eigene Methoden, um aktuelle Sachverhalte zu beurteilen.
Die Lernansätze beim Machine Learning lassen sich dabei grob in zwei Gruppen unterteilen: «Supervised Learning» und «Unsupervised Learning» (deutsch: überwachtes und unüberwachtes Lernen). Der Begriff des Überwachens bezieht sich dabei darauf, ob der Lernfortschritt des neuronalen Netzes geprüft werden kann. So wird beim überwachten Lernen ein Ergebnis definiert, nach dem der Lernfortschritt der KI durch einen «Supervisor» überwacht und beurteilt wird. Bei Fehlurteilen wird hier korrektiv eingegriffen.
Beim unüberwachten Lernen stehen hingegen Zielvorgabe und Wissen über Zusammenhänge nicht fest. Hier wird das Lernen der KI überlassen und in den Lernprozess nicht korrektiv eingegriffen. Das Lernen findet ausschliesslich auf Datenbasis ohne jegliche Überwachung durch Menschen statt.
