Künstliche Intelligenz
28.05.2024, 08:03 Uhr
Wissenschaft legt sich KI-Verhaltenskodex auf
Der KI-Kodex sieht vor: Tools und Algorithmen offenlegen, KI-Inhalte klar kennzeichnen, Voreingenommenheit verhindern.
Der Schweizer Urs Gasser ist Dekan der TUM School of Social Sciences and Technology und Rektor der Hochschule für Politik. Mit einer internationalen Arbeitsgruppe hat er Regeln für den Umgang mit KI in der Wissenschaft erstellt.
(Quelle: TUM / Astrid Eckert)
Eine Arbeitsgruppe aus Vertretern der Politik, Unternehmen und Forschern unter Beteiligung der Technischen Universität München haben in einem Verhaltenskodex fünf Prinzipien zur verantwortungsvollen und transparenten Nutzung Künstlicher Intelligenz (KI) in der Wissenschaft definiert. Details sind in den "Proceedings of the National Academies of Sciences" publiziert.
Einsatz mit Bedacht
Wissenschaftler sollen offenlegen, welche Tools und Algorithmen sie bei ihrer Arbeit benutzen und Beiträge von KI beziehungsweise Menschen klar kennzeichnen. Auch sollen Forscher weiterhin die Verantwortung für die Genauigkeit der Daten und für die Schlussfolgerungen, die sie aus diesen ziehen, tragen - selbst wenn sie dafür KI-Analyse-Tools verwendet haben.
KI-generierte Daten müssen "kenntlich gemacht werden, damit sie nicht mit Daten und Beobachtungen aus der realen Welt verwechselt werden können". Auch sollen die Fachleute sicherstellen, dass ihre Ergebnisse wissenschaftlich fundiert sind und keinen Schaden anrichten. Und das Risiko, dass KI etwa durch Trainingsdaten "voreingenommen" wird, soll möglichst gering gehalten werden, heisst es.
AI Act verabschiedet
Erst Anfang der Woche hat der Ministerrat der 27 EU-Mitgliedsstaaten den AI Act zur Regulierung des Einsatzes von KI verabschiedet. Das neue KI-Gesetz regelt für Unternehmen etwa die Nutzung der Technologien in den Bereichen Videoüberwachung, Spracherkennung und Finanzdatenanalyse. Eine Kennzeichnungspflicht für KI-Anwender und -Content-Ersteller soll bei Text, Bild und Ton für mehr Transparenz sorgen, wie die Computerworld berichtete.( pressetext.com)
