KI fällt auf Moskaus Fake-News-Lawine rein

Danach überflutet das Prawda-Netzwerk, eine gut ausgestattete Organisation mit Sitz in Moskau, die pro-russische Narrative weltweit verbreitet, grosse Sprachmodelle mit kremlfreundlichen Fake News. Laut der Studie, in der zehn führende KI-Chatbots überprüft wurden, wiederholten diese in mehr als 33 Prozent der Fälle Falschmeldungen des Prawda-Netzwerks und verbreiten damit pro-russische Stimmung.

3,6 Mio. Fake-News-Artikel

KI-Modelle greifen im Internet kursierende Desinformationen auf, sodass diese Fake News ein breites Publikum erreichen - eine Manipulationstaktik, die Forscher als "LLM-Grooming" bezeichnen. "Riesige Mengen russischer Propaganda - 3,6 Mio. Artikel alleine im Jahr 2024 - sind nun in den Ergebnissen westlicher KI-Systeme enthalten und infizieren ihre Antworten mit falschen Behauptungen und Propaganda", so die NewsGuard-Forscherinnen McKenzie Sadeghi und Isis Blachez.

In der Studie haben alle zehn Chatbots - darunter ChatGPT-4 (OpenAI), Smart Assistant (You.com), Grok, Copilot (Microsoft), Meta AI, Google Gemini und Perplexity - wiederholt Desinformationen verbreitet, die vom Prawda-Netzwerk stammen. Sieben Chatbots gaben sogar direkt bestimmte Artikel aus Prawda als ihre Quellen an.

Bedrohung der Demokratie

In einer separaten Studie warnt das American Sunlight Project vor der wachsenden Reichweite des Prawda-Netzwerks und der Wahrscheinlichkeit, dass seine pro-russischen Inhalte die Trainingsdaten grosser Sprachmodelle überfluten. "Da russische Einflussnahme zunimmt und immer ausgefeilter wird, stellen sie eine direkte Bedrohung für die Integrität des demokratischen Diskurses weltweit dar", so Nina Jankowicz, Geschäftsführerin des American Sunlight Project.

"Die Fähigkeit des Prawda-Netzwerks, Fake News in einem solchen Ausmass zu verbreiten, ist beispiellos, und sein Potenzial, KI-Systeme zu beeinflussen, macht diese Bedrohung noch gefährlicher", fügt sie hinzu. Es kann jedoch noch schlimmer kommen. Im Zuge der Annäherung zwischen Donald Trump und Wladimir Putin hat US-Verteidigungsminister Pete Hegseth eine Pause für alle Cyber-Operationen des Landes gegen Russland angeordnet, einschliesslich der Planung offensiver Aktionen. Das Prawda-Netzwerk, das im April 2022 nach der Invasion Russlands in die Ukraine ins Leben gerufen wurde, deckt 49 Länder und Dutzende von Sprachen ab, so NewsGuard. (pressetext.com)