Neue Normen für die digitale Welt
Wenn Algorithmen über Bonität entscheiden
Automatisierte Scoring-Systeme sind in einigen Ländern Europas schon Standard. Wer in Deutschland etwa ein Auto leasen, Waren in Raten bezahlen, in Online-Shops auf Rechnung bestellen oder eine Wohnung mieten will, der wird in der Regel nach seinem SCHUFA-Score gefragt. Wer einen zu niedrigen Score hat, geht meist leer aus. Diese Bewertungen errechnet die SCHUFA – das Privatunternehmen heisst mit vollem Namen «Schutzgemeinschaft für allgemeine Kreditsicherung». Sie verfügt über Daten zu insgesamt 67,5 Millionen natürlichen Personen und 5,3 Millionen Unternehmen. Kritisiert wird an der SCHUFA immer wieder die Intransparenz des Bewertungssystems. Deswegen formierte sich nun Widerstand.
Im Frühjahr riefen die beiden Organisationen Open Knowledge Foundation Deutschland und AlgorithmWatch das Projekt «OpenSCHUFA» ins Leben. Damit wollen die Initianten herausfinden, welche Methoden das Scoring-Unternehmen bei der Berechnung anwendet. Die Idee dabei ist, dass Unterstützer bei der SCHUFA eine kostenlose Selbstauskunft bestellen – auf diese Weise können Privatpersonen Einsicht in ihre bei der Auskunftei gespeicherten Daten verlangen. Eine Crowdfunding-Kampagne soll zudem das nötige Geld liefern, um die Entwicklung einer Open-Source-Software zu ermöglichen. Denn das Projekt hat schlussendlich zum Ziel, dass Unterstützer ihre Daten aus den Selbstauskünften spenden – geschehen soll dies mit ebendieser Software. Anhand der Daten wollen die Open Knowledge Foundation Deutschland und AlgorithmWatch die Funktionsweise des Bewertungssystems rekonstruieren. Die erste Phase des Crowdfundings konnten die Organisationen bereits erfolgreich abschliessen, zudem forderten mittlerweile über 20 000 Menschen eine Selbstauskunft bei der SCHUFA an.
Auch hierzulande gibt es Wirtschafts- und Kreditauskunfteien, die Daten zur Bestimmung der Kreditwürdigkeit von Schweizern sammeln und so deren Bonität beurteilen. In der Schweiz bieten die Unternehmen Intrum Justitia, Bisnode, Crif und Creditreform entsprechende Dienste an. Laut Recherchen des «Beobachters» setzen sie dabei alle – analog zur SCHUFA – auf algorithmengestützte Auswertungen. Welche Daten und statistischen Modelle bei der Berechnung der Bewertungen genau verwendet werden, halten die Unternehmen aber ebenfalls unter Verschluss.
Resultate aus der Forschung
Normen und Werte für Big Data
In der Studie der Schweizerischen Akademie der Technischen Wissenschaften identifizierten die Wissenschaftler acht Normen und Werte im Umgang mit Big Data. Sie besagen, dass:
- nur mit Zustimmung der Kunden in deren Privatsphäre eingegriffen werden darf;
- bei individualisierten Preisen keine unverschuldeten Notlagen ausgenützt werden und Monopole entstehen dürfen;
- Daten nur nach erfolgter Aufklärung und Zustimmung der Kunden erhoben und verwendet werden dürfen;
- digitale Identitäten nicht ohne Wissen und Korrekturmöglichkeiten der Kunden angelegt werden dürfen;
- Unternehmen transparent sein sollten;
- Versicherer Krankheiten nicht bestimmten Verhaltensweisen zuschreiben dürfen und dabei genetische, soziale und umweltbedingte Faktoren ausser Acht lassen;
- keine Daten verwendet werden dürfen, die nicht mehr der ursprünglichen Absicht entsprechen;
- Kunden, die Rohdaten generieren, und Unternehmen, die sie bearbeiten und nutzbar machen, dafür entschädigt werden sollten.
