Unfaire Entscheidungen durch künstliche Intelligenz
Wo liegt die Gefahr?
Weil KI sämtliche Daten als Fakten annimmt und über keinen moralischen oder ethischen Kompass verfügt, läuft sie Gefahr, damit auch Fehlurteile oder fragwürdige Daten aus der Vergangenheit vorbehaltlos zu übernehmen. Aktuelle moralische oder ethische Diskussionen in der Gesellschaft, die eventuell auch erst in jüngster Vergangenheit stattfanden oder aktuell im Gange sind, gehen im Überfluss historischer Daten unter.
Gerade beim unüberwachten Lernen ist dieses Risiko besonders hoch. Aber auch beim Supervised Learning kann es passieren, dass Vorurteile übersehen werden oder dass der Supervisor durch sein Eingreifen eigene Vorurteile in den Prozess einbringt.
Lässt sich die Datenqualität beeinflussen?
Das Grundproblem sind eigentlich die Datenbasis und die Qualität der Daten, die für das Machine Learning eingesetzt werden. Die Qualität der Datenbasis kann natürlich beeinflusst werden, indem die Daten nach bestimmten Kriterien ausgewählt oder ausgeschlossen werden. Das ist allerdings ein sehr aufwendiger und somit auch teurer Prozess, der zudem zu Verzögerungen führt.
Ausserdem kann sich durch die Selektion die Menge an Daten markant reduzieren, wodurch das Machine Learning entweder wesentlich länger dauert oder aber qualitativ schlechter wird. Denn grundsätzlich gilt: Je mehr Daten vorhanden sind, desto mehr Variationen kennt das System und umso genauer kann es in der Folge entscheiden. Ausserdem besteht auch das Risiko, dass die Person, welche die Auswahl der Daten vornimmt, die eigene Voreingenommenheit und die eigenen Vorurteile einfliessen lässt.
Was bedeutet das für unsere Zukunft?
KI kann in hohem Masse repetitive Vorgänge und insbesondere auch die Beurteilung einfacherer Sachverhalte effizienter, schneller und kostengünstiger machen. Es ist auch nicht zu übersehen, dass KI bei der Prüfung und Beurteilung rein sachlicher Informationen oftmals genauer ist als der Mensch, weil sie immer fokussiert ist, nicht von Emotionen beeinflusst ist und nie müde wird.
Dagegen sind ihr allerdings Moral und Ethik fremd. Mit anderen Worten: KI wird sich längerfristig immer mehr verbreiten und insbesondere auch Entscheide übernehmen, die bislang durch Menschen getroffen wurden. Und zwar nicht nur in Unternehmen, sondern auch bei Behörden und vielleicht auch einmal bei Gerichten. Damit werden die Auswirkungen von Fehlurteilen oder fragwürdigen Urteilen von KI für unseren Alltag immer relevanter werden.
