Wer kennt das Problem nicht: Auf Netflix ver­trödelt man gefühlt mehrere Stunden damit, einen passenden Film zu finden. Unter den Vorschlägen findet sich einfach nichts Spannendes. Zugegebenermassen ist das wohl oft auch der eigenen Unentschlossenheit oder dem riesigen Angebot geschuldet. Aber die Algorithmen, welche die angezeigte Auswahl an Filmen und Serien steuern, können ebenfalls ihren Teil dazu beitragen. Mal liefern sie auf Anhieb gute Inhalte, mal nicht. Jedoch sind längst nicht alle KI-Anwendungsfälle so harmlos wie dieser. Oftmals kommen Algorithmen auch in deutlich kritischeren Umgebungen zum Einsatz – beispielsweise in der Krebsdiagnostik oder in selbstfahrenden Fahrzeugen. Dort gibt es keinen Spielraum für Un­genauigkeiten. Allfällige Fehler können für Menschen ernsthafte Konsequenzen haben.

Zuverlässiges, sicheres, robustes und faires maschinelles Lernen gehört zum Forschungsschwerpunkt des Secure, Reliable, and Intelligent Systems Lab (SRI) der ETH Zürich. Die Arbeit des Teams hat in der Vergangenheit bereits mehrmals das Interesse der Wirtschaft geweckt: Mit ChainSecurity, DeepCode und LatticeFlow gelang es schon drei Spin-offs aus dem SRI, Forschungsprojekte zu kommerzialisieren. Chain­Security spezialisierte sich auf technische Audits von Smart Contracts und Blockchain-Projekten, während DeepCode eine KI-Plattform für die Erkennung von Schwachstellen in Programmcode baute. Beide Start-ups wurden in der Zwischenzeit übernommen – ChainSecurity vom Beratungsunternehmen PwC und DeepCode vom britischen Cybersecurity-Unicorn Snyk. Nun startet mit LatticeFlow gerade das dritte Spin-off aus dem SRI durch.

Petar Tsankov, der schon an ChainSecurity beteiligt war, gründete auch LatticeFlow mit und leitet das Start-up als CEO. Neben ihm gehören der CTO Pavol Bielik sowie die beiden ETH-Professoren Martin Vechev, Leiter des SRI, und Andreas Krause, Leiter der Learning & Adaptive Systems Group der ETH, zum Gründerteam.

LatticeFlow wurde 2020 aus der Hochschule ausgegliedert und will Kunden dabei unterstützen, robuste und zuverlässige KI-Lösungen zu entwickeln. Seinen Ursprung hatte das Start-up aber schon früher. Das erste System, das neuronale Netzwerke formal verifizieren kann, habe das Team bereits 2017 entwickelt, erzählt Tsankov. Das Framework stand damals Open Source zur Verfügung, namhafte Unternehmen wie Airbus, Bosch oder auch die SBB seien darauf aufmerksam geworden. «Ständig wurden wir angefragt, wie sich diese Arbeit nutzen lässt, um robustere und korrekt funktionierende KI-Modelle zu entwickeln», erinnert sich der CEO. «Also bin ich zu ihnen gegangen, habe über unsere Forschung gesprochen und sie zeigten mir die Herausforderungen auf, mit denen sie konfrontiert waren.» Ein gängiges Problem: Die trainierten Modelle treffen in bestimmten Fällen systematisch falsche Entscheidungen. «Für die Unternehmen galt es deshalb, die Fehlerquellen zu finden und zu beheben, bevor die Modelle produktiv eingesetzt werden», so Tsankov.

Um den Markt zu sondieren, unterhielt er sich in dieser Phase gemäss eigenen Angaben mit rund 100 Unternehmen. Dem Team habe das nicht nur geholfen, die Umrisse des Produkts abzustecken. Es hätte ihnen auch gezeigt, dass tatsächlich ein akutes Bedürfnis nach einer solchen Lösung besteht. Dass ein junges Start-up mit seinem Produkt aber nicht gleich sämtliche Branchen und Anwendungsmöglichkeiten abdecken kann, liegt auf der Hand. Auch bei LatticeFlow musste man sich deshalb in einem ersten Schritt fokussieren – und zwar auf Computer-Vision-Modelle aus der Medizin und der Industrie. Damit ging das vierköpfige Gründerteam im letzten Jahr auf Investorensuche und wurde sogleich fündig. Anfang 2021 nahm LatticeFlow in einer ersten Finanzierungsrunde 2,8 Millionen Dollar ein. Angeführt wurde diese von der europäischen Risikokapitalfirma btov. Beteiligt hatte sich zudem der ebenfalls europäische Technologiefonds Global Founder Capital. Die beiden Investoren unterstützten bereits prominente Firmen wie Revolut, Slack oder DeepL.

In der zweiten Jahreshälfte führte die Jungfirma weitere Pilotprojekte mit Unternehmen durch. Dieses Jahr will man sich bei LatticeFlow nun vollkommen auf den produktiven Einsatz der Lösung konzentrieren. Und dieser sieht so aus, dass Unternehmen für eine Gebühr Zugang zur Software erhalten und dann ihre Modelle in Eigenregie prüfen können. Das sei insofern wichtig, weil diese beim Einsatz in einer produktiven Umgebung oft nicht mehr richtig funktionieren, sagt Tsankov. «KI-Modelle, die für eine ganz bestimmte Aufgabe entwickelt wurden, funk­tionieren zwar in einer begrenzten Testumgebung, die reale Welt ist aber sehr viel komplexer.» Gemäss dem CEO durchleuchten KI-Teams ihre Modelle deshalb oftmals noch von Hand – in der Hoffnung, so auf systematische Fehler zu stossen. Ein schier unmögliches Unterfangen. Schliesslich handelt es sich dabei nicht selten um riesige Datensätze. LatticeFlow will ihnen deshalb unter die Arme greifen und diesen Prozess automatisieren. Dazu brauchen sie lediglich die LatticeFlow-Plattform mit ihren Daten und Modellen zu speisen.

Die Lösung funktioniert im Wesentlichen so: In den USA ereignete sich ein tödlicher Unfall mit einem selbstfahrenden Tesla, der ungebremst in einen abbiegenden Lastwagen raste – wohl weil der Autopilot nicht zwischen der weissen Seitenwand des Lastwagens und dem hellen Himmel unterscheiden konnte. Um solche Vorfälle zu verhindern, analysieren die Algorithmen des Start-ups im Vorfeld, unter welchen Bedingungen die KI gewisse Elemente eines Bildes nicht mehr richtig interpretieren kann. Entwicklerinnen und Entwickler können die Software nun nutzen, um vollautomatisiert «tote Winkel» der KI zu entdecken und Einsichten zu gewinnen, wie sich diese beheben lassen. Zudem basiert die LatticeFlow-Lösung selbst auch auf KI und soll sich laufend verbessern.

Aus der Sicht des CEOs ist das Potenzial von LatticeFlow gross und der Markt noch weitgehend unerschlossen, Alternativen zur Technologie des Start-ups gebe es praktisch keine. «Dementsprechend müssen wir nun rasch vor­gehen. Wir können keine Jahre damit verbringen, Prototypen zu entwickeln und einige wenige Pilotversuche durchzuführen.» Deshalb stünden nun insbesondere Deployments und die Skalierung des Produkts auf dem Zettel sowie auch die Beschaffung weiterer Mittel und der personelle Ausbau. In Sofia baut LatticeFlow aktuell eine Equipe auf, die das Machine-Learning-Team in Zürich ergänzen und sich vor allem mit dem Software-Design befassen soll.

Tsankov zeigt sich überzeugt, dass LatticeFlow eine einzigartige und weltweit führende Lösung entwickelt hat – dies, obwohl die USA oder China im Bereich KI meist einige Schritte voraus sind. Nicht zuletzt auch wegen der Forschung, die an der ETH dazu betrieben wird, könnte ihm zufolge die Schweiz mit dem Fokus auf robuste KI im internationalen Vergleich Boden gutmachen. «Vielleicht ist das genau die Chance für Schweizer Unternehmen, sich am Markt zu positionieren.» Auf jeden Fall lohnt es sich, LatticeFlow und die Forschungsarbeit des SRI weiterhin im Blick zu behalten.