Kurzfassung

  • OpenAI hat ChatGPT-Konten gesperrt, die es als sehr wahrscheinlich aus Russland stammend einstufte.
  • Die Konten bewarben ein angebliches israelisches Institut, das kopierte Forschung unter den Namen von Akademikern veröffentlichte.
  • Die meisten Beiträge erhielten nur wenige Aufrufe, obwohl zugehörige Telegram-Kanäle jeweils bis zu 20.000 Abonnenten hatten.

Ein aus Russland stammendes Netzwerk nutzte ChatGPT, um eine Organisation zu bewerben, die sich als akademisches Institut ausgab, so ein am Mittwoch veröffentlichter Bericht von OpenAI.

OpenAI gab an, eine Gruppe von Konten gesperrt zu haben, deren Betreiber russischsprachige Aufforderungen verwendeten, um Social-Media-Beiträge und Kommentare zu generieren, hauptsächlich auf Englisch. Sie wiesen ChatGPT auch an, Anzeichen zu verbergen, dass die Inhalte aus Russland stammten.

Myriad: Wann wird OpenAI GPT-6 veröffentlichen? Klicken Sie, um Ihre Vorhersage zu treffen.
Myriad: Wann wird OpenAI GPT-6 veröffentlichen? Klicken Sie, um Ihre Vorhersage zu treffen.

„Obwohl die Kampagne offenbar relativ kleine Zielgruppen erreicht hat, unterscheidet sie sich durch ihre aufwendige Konstruktion von anderen Russland-bezogenen Einflussoperationen, die wir seit Beginn des Krieges in der Ukraine unterbunden haben“, schrieb das Unternehmen.

Da ChatGPT in Russland nicht verfügbar ist, erklärte OpenAI, dass die Gruppe virtuelle private Netzwerke (VPNs) nutzte, um ihren Standort zu verschleiern und auf den Dienst zuzugreifen.

Die Gruppe nutzte ChatGPT, um das International Burke Institute zu bewerben, das behauptete, eine in Israel ansässige Expertengruppe zu sein, durch offiziell aussehende Profile und Konten, die sich als normale Benutzer ausgaben. OpenAI stellte fest, dass 34 der 36 Artikel, die es auf der Website des Instituts überprüfte, kopiert waren, und einige wurden Akademikern zugeschrieben, die sie nicht geschrieben hatten.

„Einige dieser Artikel waren Jahre alt; andere wurden den falschen Autoren zugeschrieben“, schrieb OpenAI. „Zum Beispiel scheint ein Artikel über den China-Pakistan Economic Corridor von einem Original der Cambridge University Press kopiert worden zu sein, wurde aber fälschlicherweise einem Professor der University of Nottingham zugeschrieben, dessen Fachgebiet die südasiatische Politik ist.“

Ähnliche politische Einflusskampagnen haben auch generative KI eingesetzt.

Im Jahr 2024 identifizierte OpenAI eine separate russlandbezogene Kampagne namens Doppelganger. Das Netzwerk nutzte ChatGPT, um Artikel, Social-Media-Beiträge und Kommentare zu erstellen, die Russland lobten und die Ukraine, die NATO und die Vereinigten Staaten angriffen.

Russlandbezogene Gruppen haben ChatGPT auch für Cyberoperationen genutzt. OpenAI sagte, dass Forest Blizzard, eine Gruppe, die mit dem russischen Militärgeheimdienst verbunden ist, den Chatbot nutzte, um Ziele zu recherchieren, Skripte zu schreiben und Phishing-Angriffe zu unterstützen.

Obwohl die Gruppe möglicherweise russischsprachige Aufforderungen verwendet hat, schrieb OpenAI die IBI-Kampagne nicht der russischen Regierung zu.

Myriad: Wie viele Tage wird Claude ausfallen? Klicken Sie hier, um Ihre Vorhersage zu treffen.
Myriad: Wie viele Tage wird Claude ausfallen? Klicken Sie hier, um Ihre Vorhersage zu treffen.

Laut OpenAI könnten einige Personen in Israel das Institut auf Konferenzen oder durch Artikelbeiträge vertreten haben. Dennoch bleibt ihre Beziehung zu der Kampagne unklar.

„Wir sind nicht in der Lage, die Beziehung zwischen diesen Personen, dem IBI und den Betreibern in Russland zu bestimmen“, schrieb OpenAI.