Die Europäische Union will die Blackbox undurchsichtiger Software-Entscheidungen im Internet öffnen und so Online-Riesen wie Facebook oder TikTok sicherer für ihre Nutzer machen. Um die Mechanismen hinter Hassreden, Desinformationskampagnen oder psychischen Gefahren für Kinder tatsächlich zu verstehen, müssen EU-Beamte in Zukunft das Herz und die Seele der Plattformen sezieren: Wie arbeiten die Empfehlungssysteme? Was für Algorithmen liegen ihnen zugrunde? Welche gesellschaftlichen Auswirkungen hat all das? Das Europäische Zentrum für Algorithmen-Transparenz (ECAT), das am Dienstag in Sevilla eröffnet wurde, soll dabei eine massgebliche Rolle spielen.

Das Regelwerk, das Ordnung in den «Wilden Westen» des Internets bringen soll, ist das Gesetz über digitale Dienste (Digital Services Act, DSA). Bislang setzt die EU im Kampf gegen illegale Inhalte vor allem auf Selbstverpflichtungen der Dienste. Der DSA soll nun unter anderem sicherstellen, dass Plattformen etwa Hassrede und gefälschte Produkte von ihren Seiten schneller entfernen. Für die ganz grossen Plattformen sollen besonders scharfe Vorgaben gelten. Die EU-Kommission wird auf Grundlage der Nutzerzahlen in den kommenden Tagen bestimmen, wer darunter fallen wird. Facebook, Instagram, YouTube oder Twitter dürften aber dazugehören. Sie alle organisieren ihre Dienste massgeblich über künstliche Intelligenz (KI) – also Algorithmen. Und da kommt das ECAT ins Spiel (European Centre for Algorithmic Transparency).

KI ist seit Langem massgeblich dafür verantwortlich, wie Nutzer das Internet erleben: Welchen Song hören wir als Nächstes? Welcher Post wird uns angezeigt? Welche Ergebnisse erscheinen bei unserer Suche? Welches Produkt sollen wir kaufen? Algorithmen bestimmen so wesentlich die Wahrnehmung der Welt und werden so immer ausgefeilter. Einigen bereitet das grosse Sorgen. Sie warnen davor, dass die selbstlernenden Programme unkontrollierbar werden könnten.

Für globale Aufmerksamkeit sorgt derzeit besonders der Text-Automat ChatGPT. Man gibt ihm einige Stichworte oder stellt ihm eine Frage – als Antwort bekommt man einen ausformulierten Text, der oft nicht als computergeneriert erkennbar ist. Mittlerweile gibt es auch Programme, die auf Basis weniger Wörter Bilder erzeugen können. Das Risiko, dass solche Technologien für Fake News genutzt werden könnten, ist offensichtlich. Mehrere EU-Abgeordnete forderten zuletzt einen globalen Gipfel zu den Gefahren von künstlicher Intelligenz.

Doch zurück ins spanische Sevilla, wo ECAT-Wissenschaftler – wie in einer deutschen Amtsstube – daran arbeiten, dass sich die amerikanischen Online-Giganten an europäische Regeln halten. Ein Team aus 30 Mitarbeitern, darunter KI-Experten sowie Daten- und Sozialwissenschaftler, wird die EU-Kommission künftig bei der Durchsetzung des DSA beraten und sich mit weiteren Experten austauschen. Letztlich liegt die Hoheit über die Regeln nicht in Sevilla, sondern in Brüssel.

Bei der EU-Kommission müssen die Plattform-Riesen künftig einmal im Jahr eine Risikobewertung mit Blick auf schädliche Inhalte vorlegen – samt möglicher Gegenmassnahmen. Der erste Bericht ist bis September fällig. Dabei könne es etwa um die Frage gehen, ob die psychische Gesundheit von Kindern gefährdet sei. Die Berichte werden von der EU-Kommission geprüft, in die auch die Öffentlichkeit – Forscher oder Journalisten – einsehen kann. Die EU-Kommission kann weitere Informationen anfordern. Sie kann Entwickler befragen, Details zum Testumfeld der Plattformen anfordern ebenso wie den Code der Algorithmen. Wer sich nicht an die Regeln hält, dem drohen Strafen bis zu 6 Prozent des weltweiten Jahresumsatzes.

Teil der Regeln sind auch, dass Unternehmen illegale Inhalte zügig entfernen müssen, wenn sie darüber informiert werden. Für die Nutzer wird es einfacher, solche Inhalte zu melden. Doch ist die EU mit diesem Gesetz tatsächlich auf der Höhe der Zeit? In der Kommission gibt man sich selbstbewusst. Renate Nikolay aus der zuständigen Generaldirektion spricht von «Hardcore-Pflichten». Es gebe die grosse Erwartung, dass die EU nicht nur gut darin sei, Regeln aufzustellen, sondern auch Änderungen bringe. «Die Welt schaut uns zu», sagte Nikolay am Dienstag. Die EU ist der erste Zusammenschluss weltweit, der versucht, Facebook und Co. umfassend in die Schranken zu weisen.

Doch was ist mit all dem, was derzeit und in Zukunft auf Grundlage von Algorithmen und künstlicher Intelligenz entwickelt wird? Was ist mit ChatGPT und autonom fahrenden Autos? Was ist mit automatischen Programmen zur Personaleinstellung oder zur Bewertung der Kreditwürdigkeit? Entscheidungen künstlicher Intelligenz können grossen Schaden anrichten.

Auch hier will die Europäische Union Vorreiterin sein und Standards setzen. Dazu schlug die EU-Kommission bereits vor zwei Jahren ein neues Regelwerk, den sogenannten Artificial Intelligence Act vor, über den in Brüssel derzeit verhandelt wird. Angesichts von ChatGPT und Co. mahnte Digitalminister Volker Wissing (FDP) gerade erst zur Eile. Das ECAT wird auch hier helfen, Algorithmen und ihre Auswirkungen auf die Gesellschaft besser zu verstehen.