Startup «Patronus AI» überzeugt VBS bei der Cyber Startup Challenge 2024

In diesem Jahr fand die Cyber Startup Challenge zum fünften Mal statt. Im Mai 2024 rief der Cyber-Defence Campus zu innovativen Lösungen im Bereich der «Sicherheit von künstlicher Intelligenz» auf. Die Startups präsentierten ihre Entwicklungen einer Jury, die aus Expertinnen und Experten des Eidgenössischen Departements für Verteidigung, Bevölkerungsschutz und Sport (VBS) besteht. Überzeugt hat in diesem Jahr «Patronus AI».

Das Startup wird 2025 die Möglichkeit haben, seine Lösung dem VBS in einer Machbarkeitsstudie unter realen Bedingungen zu demonstrieren.

«Patronus AI» ist ein Unternehmen, das sich auf automatisierte Evaluation von grossen Sprachmodellen (Large Language Models, LLMs) sowie auf Schutzmassnahmen und Sicherheitslösungen spezialisiert hat. Diese Plattform ermöglicht es Unternehmen und Behörden, die Leistung von LLMs in realen Szenarien zu bewerten und zu vergleichen. Sie bietet umfassende Funktionen zur Erstellung umfangreicher Testfälle, zur Überwachung von Halluzinationen und zur Verhinderung anderer unerwarteter und unsicherer Verhaltensweisen.

Die Nutzung von «Patronus AI» hilft Kundinnen und Kunden, Zeit bei der manuellen Evaluierung einzusparen, die Entwicklung sowie das Vertrauen in generative KI-Anwendungen vom Prototyp bis zur Produktion zu beschleunigen und die negativen Risiken von Halluzinationen und Prompt-Injektionen zu minimieren. Zudem bietet die Plattform tiefgehende Analysen und präzise Feedbackmechanismen, die auf der neuesten Forschung im Bereich der künstlichen Intelligenz (KI) basieren.

Der Cyber-Defence Campus von armasuisse Wissenschaft und Technologie wird im kommenden Jahr die nächste Cyber Startup Challenge durchführen, um erneut innovative Technologien und Ideen zu fördern.