Qualitätskontrolle für KI-Modelle

Wer kennt das Problem nicht: Auf Netflix ver­trödelt man gefühlt mehrere Stunden damit, einen passenden Film zu finden. Unter den Vorschlägen findet sich einfach nichts Spannendes. Zugegebenermassen ist das wohl oft auch der eigenen Unentschlossenheit oder dem riesigen Angebot geschuldet. Aber die Algorithmen, welche die angezeigte Auswahl an Filmen und Serien steuern, können ebenfalls ihren Teil dazu beitragen. Mal liefern sie auf Anhieb gute Inhalte, mal nicht. Jedoch sind längst nicht alle KI-Anwendungsfälle so harmlos wie dieser. Oftmals kommen Algorithmen auch in deutlich kritischeren Umgebungen zum Einsatz – beispielsweise in der Krebsdiagnostik oder in selbstfahrenden Fahrzeugen. Dort gibt es keinen Spielraum für Un­genauigkeiten. Allfällige Fehler können für Menschen ernsthafte Konsequenzen haben.

Zuverlässiges, sicheres, robustes und faires maschinelles Lernen gehört zum Forschungsschwerpunkt des Secure, Reliable, and Intelligent Systems Lab (SRI) der ETH Zürich. Die Arbeit des Teams hat in der Vergangenheit bereits mehrmals das Interesse der Wirtschaft geweckt: Mit ChainSecurity, DeepCode und LatticeFlow gelang es schon drei Spin-offs aus dem SRI, Forschungsprojekte zu kommerzialisieren. Chain­Security spezialisierte sich auf technische Audits von Smart Contracts und Blockchain-Projekten, während DeepCode eine KI-Plattform für die Erkennung von Schwachstellen in Programmcode baute. Beide Start-ups wurden in der Zwischenzeit übernommen – ChainSecurity vom Beratungsunternehmen PwC und DeepCode vom britischen Cybersecurity-Unicorn Snyk. Nun startet mit LatticeFlow gerade das dritte Spin-off aus dem SRI durch.

Petar Tsankov, der schon an ChainSecurity beteiligt war, gründete auch LatticeFlow mit und leitet das Start-up als CEO. Neben ihm gehören der CTO Pavol Bielik sowie die beiden ETH-Professoren Martin Vechev, Leiter des SRI, und Andreas Krause, Leiter der Learning & Adaptive Systems Group der ETH, zum Gründerteam.

LatticeFlow wurde 2020 aus der Hochschule ausgegliedert und will Kunden dabei unterstützen, robuste und zuverlässige KI-Lösungen zu entwickeln. Seinen Ursprung hatte das Start-up aber schon früher. Das erste System, das neuronale Netzwerke formal verifizieren kann, habe das Team bereits 2017 entwickelt, erzählt Tsankov. Das Framework stand damals Open Source zur Verfügung, namhafte Unternehmen wie Airbus, Bosch oder auch die SBB seien darauf aufmerksam geworden. «Ständig wurden wir angefragt, wie sich diese Arbeit nutzen lässt, um robustere und korrekt funktionierende KI-Modelle zu entwickeln», erinnert sich der CEO. «Also bin ich zu ihnen gegangen, habe über unsere Forschung gesprochen und sie zeigten mir die Herausforderungen auf, mit denen sie konfrontiert waren.» Ein gängiges Problem: Die trainierten Modelle treffen in bestimmten Fällen systematisch falsche Entscheidungen. «Für die Unternehmen galt es deshalb, die Fehlerquellen zu finden und zu beheben, bevor die Modelle produktiv eingesetzt werden», so Tsankov.

Um den Markt zu sondieren, unterhielt er sich in dieser Phase gemäss eigenen Angaben mit rund 100 Unternehmen. Dem Team habe das nicht nur geholfen, die Umrisse des Produkts abzustecken. Es hätte ihnen auch gezeigt, dass tatsächlich ein akutes Bedürfnis nach einer solchen Lösung besteht. Dass ein junges Start-up mit seinem Produkt aber nicht gleich sämtliche Branchen und Anwendungsmöglichkeiten abdecken kann, liegt auf der Hand. Auch bei LatticeFlow musste man sich deshalb in einem ersten Schritt fokussieren – und zwar auf Computer-Vision-Modelle aus der Medizin und der Industrie. Damit ging das vierköpfige Gründerteam im letzten Jahr auf Investorensuche und wurde sogleich fündig. Anfang 2021 nahm LatticeFlow in einer ersten Finanzierungsrunde 2,8 Millionen Dollar ein. Angeführt wurde diese von der europäischen Risikokapitalfirma btov. Beteiligt hatte sich zudem der ebenfalls europäische Technologiefonds Global Founder Capital. Die beiden Investoren unterstützten bereits prominente Firmen wie Revolut, Slack oder DeepL.