Staatlich unterstützte Akteure nutzten OpenAI für Desinformation

OpenAI teilte am Donnerstag in einem Blogeintrag mit, die vereitelten Kampagnen hätten ihren Ursprung in Russland, China, im Iran und bei der israelischen Handelsgesellschaft STOIC gehabt.

Die fraglichen Akteure versuchten demnach, die Sprachmodelle von OpenAI für Aufgaben wie die Generierung von Kommentaren, Artikeln, Profilen in Online-Netzwerken und das Austesten von Codes für Bots und Websites zu nutzen. "Diese Operationen scheinen durch unsere Dienste nicht von deutlich stärkeren Nutzeraktivitäten oder höherer Reichweite profitiert zu haben", erklärte das Unternehmen von Konzernchef Sam Altman.

KI-Firmen wie OpenAI stehen angesichts bedeutender Wahlen in diesem Jahr unter strenger Beobachtung. Befürchtet wird, dass Apps wie ChatGPT oder der Bildgenerator Dall-E binnen Sekunden und in grossem Umfang betrügerische Inhalte produzieren können. Länder wie Russland, China und der Iran nutzen gezielt Online-Plattformen zur Desinformation, um Wahlen zu manipulieren.

Zu den durchkreuzten Desinformations-Versuchen gehörten laut OpenAI "Bad Grammar", eine zuvor unbekannte russische Kampagne, die sich gegen die Ukraine, Moldau, die baltischen Staaten und die USA richtete. Sie nutzte OpenAI-Modelle und -Werkzeuge, um kurze politische Kommentare in Englisch und Russisch auf Telegram zu generieren, wie OpenAI mitteilte.

Das bekannte russische "Doppelgänger"-Netzwerk nutzte die KI von OpenAI, um Kommentare auf Plattformen wie X auf Deutsch, Englisch, Französisch, Italienisch und Polnisch zu erzeugen.

OpenAI demontierte zudem die chinesische Desinformations-Operation "Spamouflage", die die Firmenmodelle missbrauchte, um unter anderem Online-Netzwerke zu durchsuchen und mehrsprachige Texte zu generieren.

Laut OpenAI machen es die Zusammenarbeit, der Austausch von Geheimdienstinformationen und in ihre Anwendungen eingebaute Schutzvorrichtungen möglich, Missbrauch zu durchkreuzen.