KI und ML: Cloud oder On-Premises?
Fazit, Vergleich und Ausblick
Cloud-basierte KI- und Machine-Learning-Plattformen bieten vielen Unternehmen und Organisationen zweifellos einen einfacheren Einstieg in KI und Maschinelles Lernen als ein On-Premises-Ansatz. Für Taylor McCaslin von GitLab teilen sich die Unternehmen allerdings in zwei Gruppen: «Für schnelllebige, risikotolerante Unternehmen ist die Cloud eine gute Wahl, weil die meisten KI-Innovationen auf SaaS-Cloud-Plattformen stattfinden. Unternehmen in stark regulierten Branchen werden jedoch die Anforderungen an Datenschutz und Sicherheit mithilfe selbstverwalteter On-Premises-Instanzen erfüllen, obwohl das wegen der Komplexität von KI- und ML-Technologien in solchen Umgebungen anspruchsvoller ist.»
Speziell für Unternehmen in der EU werden die Aspekte Datenschutz und Compliance im Zusammenhang mit künstlicher Intelligenz zunehmend an Bedeutung gewinnen. Denn die Europäische Union wird voraussichtlich noch im Jahr 2023 mit dem EU AI Act ein Regelwerk für den Einsatz von KI vorlegen. Der Act dürfte auch die Nutzung von Cloud-Ressourcen tangieren – hoffentlich nicht in der Art, dass Daten künftig nur noch On-Premises mit KI-Anwendungen verarbeitet werden dürfen. Denn das würde die Wettbewerbsfähigkeit vieler Unternehmen spürbar einschränken.
“Für schnelllebige, risikotolerante Unternehmen ist die Cloud eine gute Wahl.„
Taylor McCaslin
Group Manager – Product Data Science AI/ML bei GitLab
Group Manager – Product Data Science AI/ML bei GitLab
Eine wichtigere Rolle wird voraussichtlich darüber hinaus der Punkt Vertrauenswürdigkeit von künstlicher Intelligenz spielen, so Stephan Schnieber, Sales Lead IBM Cloud Pak for Data in der DACH-Region. «Es muss beispielsweise laufend geprüft werden, ob die Daten, mit denen ein Modell trainiert wurde, noch Gültigkeit besitzen oder es revalidiert werden muss, damit es weiterhin vertrauenswürdig ist», erläutert der Experte.
Es sind nicht allein technische Faktoren, die über den Erfolg und die Akzeptanz von KI und Machine Learning entscheiden. Vielmehr muss das gesamte Paket stimmig sein, inklusive der Vertrauenswürdigkeit von KI und einer offenen Diskussion darüber, welche Folgen der Einsatz dieser Technologie für die Wirtschaft und Gesellschaft haben wird. Künstliche Intelligenz simpel als universalen Heilsbringer zu propagieren, wie das viele Anbieter entsprechender Lösungen tun, ist auf jeden Fall kein tragfähiger Ansatz.
Vergleich: KI-Anwendungen aus der Cloud oder im eigenen Data Center
| Kriterien | Cloud | On-Premises |
| Zugang zu KI- und ML-Modellen, Frameworks und Entwicklungs-Tools | Bei führenden Cloud-Serviceprovidern stets Zugang zu aktuellen KI- und ML-Modellen und Entwicklungstools; Hyperscaler wie AWS, Google, Microsoft und Anbieter wie IBM sind führend in der Entwicklung von KI- und ML-Lösungen | Anwender müssen Modelle, Frameworks etc. selbst auswählen und implementieren; allerdings ist grosse Auswahl an Open-Source-Tools vorhanden; zudem keine Bindung an Angebote von Cloud-Providern |
| Know-how - KI-Spezialisten | Die KI-Expertise von Cloud-Providern und Partnerunternehmen steht – teilweise – auch den Nutzern entsprechender Services zur Verfügung; Anwender können zudem auf Beratungs- und Schulungsservices solcher Unternehmen zurückgreifen | Das Fachwissen bei KI und Machine Learning muss im eigenen Unternehmen aufgebaut werden; dies ist vor allem für kleine und mittelständische Unternehmen wegen des Mangels an KI-Experten und Data Scientists ein Problem |
| Skalierbarkeit von Infrastruktur und Anwendungen | Flexible Optionen, um Infrastruktur (Compute, Storage) und ergänzende Anwendungen (Datenbanken, Analytics, ETL-/ETL-Pipelines etc.) entsprechend aktuellem Bedarf zu nutzen; Betrieb übernimmt Cloud-Provider | IT-Infrastruktur für KI / ML muss selbst eingerichtet und betrieben werden; dadurch entsprechende Kosten, eventuell auch wegen Over-Provisioning von Ressourcen, um Lastspitzen abzufangen; allerdings hat Anwender volle Kontrolle über die Infrastruktur und kann diese an spezielle Anforderungen anpassen |
| Egress-/Ingress-Kosten | Bei großen Datenvolumina (KI-/ML-Training) und Modellen können die Kosten deutlich anwachsen, insbesondere nach Preiserhöhungen bedingt durch Energiekosten und Inflation | Geringere Kosten, weil Datentransfers im eigenen Datacenter erfolgen; jedoch ebenfalls Kostensteigerungen durch Energie, CO₂-Abgaben etc. |
| Performance - Netzwerkanbindung | Hohe, skalierbare Performance, etwa durch Buchen von weiteren GPU-Instanzen; allerdings sind Netzwerkverbindungen mit geringer Latenzzeit zwischen Cloud- und Unternehmensrechenzentren erforderlich; dies kann in einigen Regionen (noch) ein Problem darstellen; | Geringe Latenzzeiten und hohe Performance; Voraussetzung ist jedoch eine IT-Infrastruktur, die regelmäßig modernisierte und gut gewartet wird; |
| Datenschutz - Compliance | Daten und KI-Modelle werden in Rechenzentren der Cloud-Serviceprovider gespeichert; Anbieter wie die Hyperscaler, IBM etc. unterhalten allerdings Datacenter im EU-Raum und geben an, die Vorgaben der EU-DSGVO einzuhalten und die Daten-Souveränität der Nutzer zu respektieren | Nutzer haben die volle Kontrolle über Daten und KI-Anwendungen; die kann in Branchen mit besonderen hohen Anforderungen an die Compliance und Daten-Souveränität somit die bessere Alternative sein; Option: Einrichtung einer Hybrid-Cloud, die Zugang zu KI-Lösungen in der Public Cloud erlaubt, aber gleichzeitig Kontrolle über sensible Daten ermöglicht |
| Sicherheit | Die IT-Sicherheitsvorkehrungen von Cloud-Rechenzentren sind in der Regel besser als die vieler Unternehmens-Datacenter | Die Sicherheit der IT-Infrastruktur und der Daten liegt in der Verantwortung des Anwenders; allerdings ist zu beachten, dass Cloud-Provider auch die Sicherung von Daten (Backup, Disaster-Recovery) in der Regel dem Anwender übertragen |
Vergleich: KI-Anwendungen aus der Cloud oder im eigenen Data Center
| Kriterien | Cloud | On-Premises |
| Zugang zu KI- und ML-Modellen, Frameworks und Entwicklungs-Tools | Bei führenden Cloud-Serviceprovidern stets Zugang zu aktuellen KI- und ML-Modellen und Entwicklungstools; Hyperscaler wie AWS, Google, Microsoft und Anbieter wie IBM sind führend in der Entwicklung von KI- und ML-Lösungen | Anwender müssen Modelle, Frameworks etc. selbst auswählen und implementieren; allerdings ist grosse Auswahl an Open-Source-Tools vorhanden; zudem keine Bindung an Angebote von Cloud-Providern |
| Know-how - KI-Spezialisten | Die KI-Expertise von Cloud-Providern und Partnerunternehmen steht – teilweise – auch den Nutzern entsprechender Services zur Verfügung; Anwender können zudem auf Beratungs- und Schulungsservices solcher Unternehmen zurückgreifen | Das Fachwissen bei KI und Machine Learning muss im eigenen Unternehmen aufgebaut werden; dies ist vor allem für kleine und mittelständische Unternehmen wegen des Mangels an KI-Experten und Data Scientists ein Problem |
| Skalierbarkeit von Infrastruktur und Anwendungen | Flexible Optionen, um Infrastruktur (Compute, Storage) und ergänzende Anwendungen (Datenbanken, Analytics, ETL-/ETL-Pipelines etc.) entsprechend aktuellem Bedarf zu nutzen; Betrieb übernimmt Cloud-Provider | IT-Infrastruktur für KI / ML muss selbst eingerichtet und betrieben werden; dadurch entsprechende Kosten, eventuell auch wegen Over-Provisioning von Ressourcen, um Lastspitzen abzufangen; allerdings hat Anwender volle Kontrolle über die Infrastruktur und kann diese an spezielle Anforderungen anpassen |
| Egress-/Ingress-Kosten | Bei großen Datenvolumina (KI-/ML-Training) und Modellen können die Kosten deutlich anwachsen, insbesondere nach Preiserhöhungen bedingt durch Energiekosten und Inflation | Geringere Kosten, weil Datentransfers im eigenen Datacenter erfolgen; jedoch ebenfalls Kostensteigerungen durch Energie, CO₂-Abgaben etc. |
| Performance - Netzwerkanbindung | Hohe, skalierbare Performance, etwa durch Buchen von weiteren GPU-Instanzen; allerdings sind Netzwerkverbindungen mit geringer Latenzzeit zwischen Cloud- und Unternehmensrechenzentren erforderlich; dies kann in einigen Regionen (noch) ein Problem darstellen; | Geringe Latenzzeiten und hohe Performance; Voraussetzung ist jedoch eine IT-Infrastruktur, die regelmäßig modernisierte und gut gewartet wird; |
| Datenschutz - Compliance | Daten und KI-Modelle werden in Rechenzentren der Cloud-Serviceprovider gespeichert; Anbieter wie die Hyperscaler, IBM etc. unterhalten allerdings Datacenter im EU-Raum und geben an, die Vorgaben der EU-DSGVO einzuhalten und die Daten-Souveränität der Nutzer zu respektieren | Nutzer haben die volle Kontrolle über Daten und KI-Anwendungen; die kann in Branchen mit besonderen hohen Anforderungen an die Compliance und Daten-Souveränität somit die bessere Alternative sein; Option: Einrichtung einer Hybrid-Cloud, die Zugang zu KI-Lösungen in der Public Cloud erlaubt, aber gleichzeitig Kontrolle über sensible Daten ermöglicht |
| Sicherheit | Die IT-Sicherheitsvorkehrungen von Cloud-Rechenzentren sind in der Regel besser als die vieler Unternehmens-Datacenter | Die Sicherheit der IT-Infrastruktur und der Daten liegt in der Verantwortung des Anwenders; allerdings ist zu beachten, dass Cloud-Provider auch die Sicherung von Daten (Backup, Disaster-Recovery) in der Regel dem Anwender übertragen |
