Spannungsfeld Digitalisierung

Sophia Ding, Master in International Economics am Geneva Graduate Institute und an der ETH Zürich in Ökonometrie doktoriert. Heute Digital Ethics & AI Specialist bei der Schweizer Post. Robert «Röbi» Weiss, Chemiker und Computerspezialist, wurde als Mister IT in der Schweiz berühmt. Seine Computerposter und sein Museum faszinieren bis heute. Niemand hat mehr Erfahrung als er. 

Sophia Ding: Beruflich dreht sich bei mir alles um verantwortungsvolle Digitalisierung und vertrauenswürdige KI. Als Digitalethik- und AI-Spezialistin bei der Schweizerischen Post stelle ich als Teil der Fachstelle Digitalethik mit Kolleginnen und Kollegen u.a. aus der IT, Legal und Datenschutz sicher, dass unsere digitalen Lösungen nicht nur sicher sind, sondern auch vertrauenswürdig entwickelt und eingesetzt werden. Damit leisten wir einen wichtigen Beitrag in der Weiterentwicklung der digitalen Geschäftsfelder der Post.  Privat bin ich ebenfalls sehr digital unterwegs. So leihe ich z.B. bevorzugt E-Books von meiner Bibliothek des Vertrauens aus. Ich lebe zu 99 % bargeldfrei. Wie digital die Schweiz im Bereich Zahlungsmittel ist, fasziniert mich. Gerade war ich im Engadin und hätte dort sogar die Kutschfahrt in das verkehrsberuhigte Val Fex vor Ort mit Twint bezahlen können… Gleichzeitig verzichte ich privat – mit der Ausnahme von Linkedin für berufliche Zwecke – bewusst auf Social Media.

Robert Weiss: Ich persönlich fühle mich privat wie auch beruflich (seit 44 Jahren selbständig und seit 12 Jahren pensioniert) sehr wohl in meinem digitalen Umfeld, welches ich Gott sei Dank noch völlig alleine bestimmen kann. Und dies trotz meinen drei Computern inklusive Bildschirme und zwei Smartphones auf meinem Schreibtisch.

Trotz allen immer penetranteren Beeinflussungen muss man sich eines wieder ins Gedächtnis rufen: Der analoge Weg ist permanent offen, man muss ihn leider nur oft eher mühsam finden, aber er ist da, ansonsten könnten wir gleich den Untergang unserer Zivilisation bzw. Gesellschaftsordnung in Angriff nehmen. Die evolutionäre Entwicklung hat es so gewollt: Der Mensch ist und bleibt analog! Und man darf auch nicht ausser Acht lassen, dass trotz dem KI-Hype und der permanenten Fütterung aller weltweiten LLMs mit digitalen Informationen der grösste Teil unseres Wissens nach wie vor analog vorliegt und das wird sich auch in Zukunft nicht ändern.

Ding: Die zunehmende Digitalisierung und der steigende Einsatz von KI führt bei vielen Unternehmen zu einer Auseinandersetzung mit dem, was wir im digitalen Raum eigentlich alles wollen und sollen. Immer mehr Akteure entscheiden sich dafür, beim Einsatz von KI nicht den rechtlichen Spielraum vollständig auszuschöpfen, sondern stärker auf einen verantwortungsvollen Umgang zu setzen. Die Marke Dove z.B. hat sich gegen einen Einsatz von AI-generierten Bildern in ihren «Real Beauty» Kampagnen entschieden, weil sie die natürliche Schönheit von Frauen zeigen wollen. Zusätzlich hat das Unternehmen ein Real Beauty Prompt Playbook veröffentlicht, das anderen Firmen, die digital inklusive AI-generierten Darstellungen von Personen erstellen wollen, helfen soll. Diesen Willen, kollektiv etwas zu einer verantwortungsvollen Digitalisierung beizutragen, haben wir auch bei der Post. Auf unserer Webseite teilen wir z. B. verschiedene Hilfsmittel, wie unseren Leitfaden Digitalethik.

Weiss: Auch hier muss man darauf hinweisen, dass völlig andere Betrachtungsweisen vorliegen, ob ich mich durch meine Umwelt und mein Umfeld so stark beeinflussen lasse oder auch lassen muss (berufliches Umfeld, Familie usw.) oder aber, ob ich jede Fremdbestimmung an mir abprallen lassen kann. Ich gehöre glücklicherweise zur zweiten Kategorie und werde mich auch nicht davon abbringen lassen.

Die Entwicklungen wären tendenziell eher positiv zu sehen, aber der oft unbedachte Umgang mit Daten und dem fahrlässigen Verlassen auf angebotene Lösungsansätze sind für mich meist nicht nachvollziehbar. Das Debakel um das Crowdstrike-Update war für mich ein heilsamer Schuss vor den Bug. Ob aber die betroffenen Firmen daraus etwas gelernt haben und die notwendigen finanziellen Ressourcen freigeben, muss abgewartet werden. Ich bin skeptisch.

Ding: Die Geschwindigkeit der technologischen Entwicklung hat zugenommen. Dadurch sind Unternehmen immer stärker gefordert. Neue Technologien wie generative KI bergen viele Chancen, aber nur ein neues Tool einzukaufen, reicht nicht, um das Potenzial voll auszunutzen. Die Mitarbeitenden müssen im Einsatz dieser Hilfsmittel ausgebildet werden. Und gleichzeitig müssen ihre Bedenken proaktiv adressiert werden. Denn wer nicht von einem neuen Tool überzeugt ist, denkt sich schnell mal einen Workaround aus. So besteht aber auch die Gefahr, dass Mitarbeitende auf der Strecke bleiben.

Weiss: Digitalisierung ist ja für die meisten die Umwandlung von analogen Informationen in die berühmten Nuller und Einer. Aus dieser Sicht stellt sich die Frage: War es der erste Digitalcomputer, die Z3 von Konrad Zuse 1941, war es die Erfindung des Transistor 1947 an den Bell Labs oder war es die Erfindung des Mikroprozessors 1971 von Intel? Sieht man es aber nicht aus der Sicht der Technik, welche aber der eigentliche Treiber war, sondern aus der Sicht der disruptiven Prozesse, dann ist es nicht die Digitaluhr der 70er-Jahre, auch nicht das Audio-CD oder die Digitalfotografie, dann wäre es bereits die Erfindung des Buchdruck 1440 durch Johannes Gutenberg. Muss man sich mal gut überlegen.

Ding: KI ist seit der Veröffentlichung von ChatGPT Ende 2022 sicher ein extrem wichtiges Thema – vor allem bei Grosskonzernen, aber immer stärker auch im KMU Umfeld. Das merke ich zum Beispiel daran, dass die Nachfrage nach Weiterbildungen wie den AI-bezogenen CAS Programmen an der Hochschule für Wirtschaft Zürich, in denen ich AI Ethics und AI Risk Management doziere, in den letzten Monaten enorm gestiegen ist. Gerade an der Schnittstelle zum anderen Trendthema Security stellen sich dabei neue spannende Fragen: «Wie integriere ich zum Beispiel Digitalethik- und KI-Risiken in bestehende Risikomanagement Systeme?» oder «Wie können wir die Chancen von KI-generierten Avataren und synthetischer Stimmen Nutzen und gleichzeitig die Risiken von Deep Fakes mitigieren?». Für KMUs stellen diese interdisziplinären Fragestellungen sicher eine besondere Herausforderung dar, da es viele unterschiedliche Fachexpertisen benötigt, diese zu adressieren.

Weiss: Cloud und Security haben ja eine bereits etablierte Vergangenheit und gehören zum Standardrepertoire jedes IT-Verantwortlichen unabhängig von der Betriebsgrösse. Falls nicht, so ist der Zug bereits abgefahren. Mit KI kommen völlig neue Möglichkeiten, sowohl in der Produktion wie auch am PC-basierenden Arbeitsplatz. Dass der breiten Öffentlichkeit erst mit der generativen KI das Bewusstsein erweitert wurde, was mit KI schon seit vielen Jahren möglich ist, verdanken wir vor allem dem medialen Hype. Ich fühle mich zurückversetzt in die 70er-Jahre als mit dem Mikroprozessor zuerst als Jobkiller «schmackhaft» gemacht wurde, er aber erst den nachhaltigen Start in die Digitalisierung wirtschaftlich ermöglichte. Oder in die 80er-Jahre als der PC die Arbeitswelt im Büroumfeld zu Hochleistungen in der Weiterbildung zwang. Zuerst mal negative Schlagzeilen, um im Nachhinein feststellen zu müssen, dass die positiven Auswirkungen in unseren Alltag, privat wie auch beruflich, weit überwiegen. Und mit KI verfallen wir wieder in den bekannten alten Trott.

Ding: Ich werde häufig gefragt, was ich in meinem Job konkret mache. Das Berufsbild gibt es noch nicht häufig und auch noch nicht lange. Vor kurzem haben wir einen Digitalethik-Stammtisch veranstaltet. Die Hälfte der Teilnehmenden setzt sich neben anderen Themen wie Datengovernance oder Data Science mit Digitalethik auseinander. Bei der Post sind wir zu zweit. Wir befähigen die Mitarbeitenden der Post mit internen Trainings, verfassen Richtlinien z.B. im Umgang mit generativer KI, begleiten Projekte chancenorientiert, um eine digitalethische Innovation zu fördern und setzen Governance Strukturen auf. Das hat sich auch bereits bezahlt gemacht. Wir spüren innerhalb der Post die Bereitschaft eines offenen und verantwortungsvollen
Umgangs mit generativer KI. Andere Firmen können nicht nur von unseren Erfahrungen lernen, die wir öffentlich teilen. Verbände wie die Swico oder Data Innovation Alliance geben mit Frameworks zum Thema «Digitalethik in der Praxis umsetzen» gute Hilfestellungen.

Weiss: Wenn ich mein persönliches Umfeld ansehe, ist mein «Beratungsaufwand» enorm angestiegen. Ich habe heute an einer Party den gleichen Status wie früher der Zahnarzt oder Rechtsanwalt. «Ich hätte da noch eine Frage». Der Grund ist das Smartphone. Ein persönliches mobiles Hochleistungsgerät das punkto Leistungsfähigkeit und Einsatzvielfalt den herkömmlichen PC auf dem Tisch schon lange überholt hat. Aber mit jeder neuen App steigt die Komplexität und der «Supportbedarf». Bei den meisten Diskussionen am Stammtisch geht es ja mehrheitlich nur noch um die neusten Apps, unabhängig vom Alter der Teilnehmer. Im Durchschnitt sind auf einem Smartphone 60 bis 90 Apps (Abhängig von Region und Alter) installiert, wobei nur ein Bruchteil regelmässig genutzt werden. Also ein völliger Overkill und Problemsteller sondergleichen bzw. Beratungsaufwand.

Meine ernst zu nehmenden Ratschläge beziehen sich meist auf Batterieschonung, sinnvolle Add-ons, Expertentipps zur Nutzungssteigerung, Sicherheitseinstellungen usw.

Ding: Ein Kollege von mir aus der Rechtsabteilung hat mal gesagt, dass es sehr viel «legalen Unsinn» im Bereich der Digitalisierung gibt. Also Anwendungen, die aus juristischer Sicht in Ordnung, aber aus praktischer Sicht unnötig sind. Ich denke, da ist schon etwas dran. Der Startpunkt für jedes Digitalisierungsprojekt sollte es sein, das Geschäftsproblem zu verstehen. Und der Ansatz für jede Digitalisierungs-Strategie die Geschäftsstrategie. Gleiches gilt für den Einsatz neuer Technologien. Nicht jedes Geschäftsproblem lässt sich mit einer KI klären – häufig gibt es viel einfachere Lösungen, wie z.B. eine Überarbeitung eines Geschäftsprozesses. Und man darf nicht vergessen: Die digitale Anwendung kann noch so gut sein – wenn man den Menschen nicht mitnimmt, wird sie zwangsläufig scheitern. Wenn diese Elemente zusammenkommen, dann bringt die Digitalisierung einen echten Mehrwert für Anwender:innen – die man im Übrigen auch bei Digitalisierungsprojekten unbedingt mit einbeziehen sollte.

Weiss: Da Digitalisierung nicht mit KI gleichgesetzt werden darf, diese geht definitiv viel weiter und ist nur eine wichtige Ergänzung bzw. hilfreiches Werkzeug, hat man schon genügend Erfahrung sammeln können, was sie überhaupt bringen kann. Die unschönen oft nicht nachvollzierbaren Schwierigkeiten um die Realisierung des digitalen Patientendossier ist hier dabei ein sehr schlechtes Beispiel. Die digitale Welt hat uns sehr viel gebracht, aus positiver Sicht stehen Bequemlichkeit, Wissensvielfalt und einfacher Zugang dazu (nicht zu vergessen, das Internet ist mit der Wissensverteilung nach Gutenberg, die zweite mediale Revolution), Erreichbarkeit (kann auch auf die negative Seite gehören) im Vordergrund. KI meint dazu noch: Effizienz, Produktivität, Kostenersparnis, Mobilität, Innovation und Wachstum.

Auf der negativen Seite stehen mit den sozialen Plattformen stark verändertes persönliches Kommunikationsverhalten (Soziale Isolation), Informationsoverflow, Überwachungsmöglichkeiten, Ressourcenanforderungen, Sicherheitsbedenken, Suchtpotenzial oder eben der Verlust an Arbeitsplätzen. Die Nutzung, sinnvoll oder eben auch weniger sinnvoll, der digitalen Welt bzw. deren Möglichkeiten dürfte für jedes Individuum eine persönliche Sache sein.

Ding: Das Bedürfnis der Kundschaft nach Vertrauenswürdigkeit und Transparenz. Ich meine damit nicht, dass sich grosse Konzerne nicht ernsthaft mit diesen Themen auseinandersetzen. Aber es gibt z.B. Initiativen im Bereich der Large Language Models (LLMs), die mit Open Source und insbesondere einer Veröffentlichung der Trainingsdaten hier über die Ansätze der grossen Player hinaus gehen. Aktuell sind diese Open Source / Open Data LLMs leider noch nicht alle so performant wie die der grossen Tech-Konzerne. Aber wir sehen schnelle Fortschritte. Hier sprechen manche dann sogar von einer «Demokratisierung» von LLMs.

Weiss: Der Markt wird momentan von den grossen Playern, welche ja ständig auf der Suche nach möglichen Akquisitionen sind um ihre Angebotspalette neuen Gegebenheiten schnell anpassen zu können, beherrscht. Waren diese ursprünglich nur Anbieter von Hardware, Software oder Dienstleistungen, so sind sie zu Universalanbieter von vollumfänglichen Paletten an Applikationen, Equipment, Sicherheitskonzepte, generativen KI-Produkten, Rechenleistungen usw. geworden. Das bedeutet, dass ihre Geschäftsmodelle breit abgestützt sind und so eine grosse Stabilität gegen mögliche Marktveränderungen vorhanden ist.