Gestauchte AI

In einer anschliessenden Diskussionsrunde berichtete Abdel Labbi, Leiter des Bereichs Data & AI Platforms bei IBM Research Europe — Zurich davon, wie die bereits erwähnt sperrigen und Ressourcen-hungrigen KI-Modelle für die Verarbeitung auf Edge-Geräten mit limitierten Speicherungs- und Berechnungsmitteln zurechtgestutzt werden können. Dabei werde ein «Model Compression» genanntes Verfahren verwendet, so Labbi. Hierbei werden ihm zufolge gewisse Parameter weggelassen und das KI-Modell nun ohne diese Parameter neu trainiert. So wird ermittelt, wie viel weggelassen werden kann, ohne das Ergebnis über Gebühren zu beeinträchtigen.

Labbi berichtet in diesem Zusammenhang vom Gemeinschaftsforschungsprojekt «TinyML and Efficient Deep Learning» von IBM und dem MIT (Massachusetts Institute of Technology). «Damit lassen sich zum Beispiel Deep-Learning-Modelle zur Bilderkennung auf Geräten installieren, die weniger als ein Megabyte RAM besitzen», führt er aus. Natürlich verliere man dabei ein wenig an Präzision, räumt Labbi ein, aber die Ergebnisse seien für den Verwendungszweck durchaus ausreichend.

Anwendungen für solche AI-bestückten Edge-Geräte gebe es in Zukunft viele, verspricht denn auch Haas. Präsentiert an dem Event wurden beispielsweise Drohnen, die kleinste Risse an Brückenpfeilern selbstständig erkennen (Computerworld berichtete) oder auf Flughäfen die Lande- und Startbahnen nach Hindernissen absuchen können sowie einen mit KI bestückten chemischen Sensor, der Flüssigkeiten analysieren und testen kann. «Wieviele Flughäfen und Brücken gibt es weltweit, die von diesen Systemen untersucht werden können?», fragt Haas und verweist damit auf einen riesigen Markt, der auf solche intelligente Edge-Devices warte.