Der KI-Anbieter Anthropic hat in den vergangenen acht Monaten eine beunruhigende Welle von Missbrauch durch autokratische Regime dokumentiert. In einem 154-seitigen Bericht über aufkommende Bedrohungen offenbart das Unternehmen, dass staatliche und staatsgestützte Akteure sein System Claude gezielt für Propaganda, Desinformation und Massenüberwachung einsetzen – mit dem Ziel, ihre Herrschaft zu festigen und Dissidenten zum Schweigen zu bringen.
Kurz & knapp
- Anthropic sperrte zahlreiche Kampagnen in Afrika, Asien, Russland, dem Nahen Osten und Europa, die Claude für Desinformation und Überwachung nutzten
- In Mali baute ein Geheimdienst-Consultant mit Claude ein Massenüberwachungssystem, das 25 Millionen SIM-Karten illegal überwachte
- In der Zentralafrikanischen Republik leitete ein russischer Operator eine Einflussoperation, die pro-Moskau-Propaganda über eine Radiostation verbreitete
- Die Operationen umfassten gefälschte Social-Media-Profile, Nachrichtenseiten und Dokumentenfälschungen
Netzwerke aus Lügen
Eine der häufigsten Taktiken: Anthropic fand Fälle, in denen Claude dazu genutzt wurde, um "Netzwerke von gefälschten Social-Media-Profilen und ganze Nachrichtenseiten" zu schaffen. Diese Plattformen wurden dann mit täuschenden Inhalten gefüllt, während die wahren Betreiber vollständig verborgen blieben.
"Die Konten sind nicht real und die Meinungen werden nicht wirklich vertreten. Nichts an der Oberfläche identifiziert, wer tatsächlich hinter diesem Aufwand steckt."
Hunderte von Social-Media-Accounts, die wie normale Bürger wirken, wurden dann eingesetzt, um Material zu verbreiten, das eine politische Sicht verstärkt. Ein Netzwerk aus Täuschung, das ohne KI-Werkzeuge in dieser Skalierung kaum möglich wäre.
Mali: Illegale Massenüberwachung im großen Stil
Besonders alarmierend ist der Fall Mali. Ein Berater des Geheimdiensts nutzte Claude als "primäre Ingenieursressource", um ein Massenüberwachungssystem zu entwickeln. Dieses System spionierte illegal Millionen von Menschen aus – über 25 Millionen SIM-Karten auf allen drei nationalen Mobilfunkbetreibern des Landes.
Das System erfasste Textnachrichten, Sprachanrufe und andere Daten, nutzte dann Claude, um Geheimdienstdossiers über die Ziele zu erstellen. Besonders brisant: Laut Anthropic-Bericht war das System dazu konzipiert, Malis Gesetze zu umgehen, die einen Gerichtsbeschluss für Überwachungsoperationen vorschreiben.
Russische Einflussoperation in Zentralafrika
In der Zentralafrikanischen Republik entdeckte Anthropic eine von Russland gesteuerte Operation. Ein russischer Operator nutzte Claude für eine umfangreiche politische und Medieneinflussoperation – in einem Land, das bereits von Tausenden russischen Truppen gestützt wird.
Die Operation umfasste tägliche Inhalte für eine russisch gegründete Radiostation in Bangui, der Hauptstadt. Claude wurde angewiesen, pro-Moskau- und anti-französische Sprechpunkte in die Radiobeiträge einzubauen. Der Operator war mit der Agentur Politology verbunden, die vom russischen Geheimdienst kontrolliert wird.
"Dies war eine von russischen Staaten geleitete verdeckte Operation, die darauf ausgelegt war, den Informationsraum der Zentralafrikanischen Republik zu manipulieren und zu beeinflussen. Die Operation war vollständig fremdgesteuert, aber sorgfältig so konstruiert, dass sie aus Bangui zu stammen schien."
Derselbe Operator nutzte Claude auch, um Opposition-Politiker zu überwachen und Dokumente von Regierungsbehörden zu fälschen.
Was das für europäische Sicherheit bedeutet
Die Anthropic-Erkenntnisse zeigen ein Muster: Autokratische Regime nutzen westliche KI-Systeme gezielt gegen ihre eigene Bevölkerung und gegen demokratische Prozesse. Für deutsche und europäische Unternehmen ergibt sich daraus eine doppelte Herausforderung. Zum einen müssen KI-Anbieter ihre Systeme besser gegen Missbrauch durch Staatsakteure schützen – Anthropic hat diese Kampagnen zwar gestoppt, aber erst nach Monaten. Zum anderen stellt sich die Frage, wie streng die EU ihre KI-Regulierung durchsetzen wird, wenn es um Missbrauch durch autoritäre Partner geht. Die Erkenntnisse dürften auch in den deutschen Sicherheitsdebatten an Gewicht gewinnen.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
