Anthropic hat einen massiven Datendiebstahl durch den chinesischen Konzern Alibaba öffentlich gemacht. Laut einem Bericht von Forbes soll Alibaba über 25.000 betrügerische Konten genutzt haben, um in drei Monaten 28,8 Millionen Prompt-Response-Austausche durchzuführen – und dabei schätzungsweise 57,6 Milliarden Token aus Claude extrahiert zu haben. Das Ziel: Anthropics Wissen zur Trainierung des eigenen Sprachmodells nutzen, insbesondere im Bereich des agentengesteuerten Denkens.
Kurz & knapp
- Alibaba soll über 25.000 gefälschte Accounts auf Claude zugegriffen haben
- 28,8 Millionen Prompt-Antwort-Paare wurden in drei Monaten extrahiert
- Geschätzter Datenvolumen: 57,6 Milliarden Token
- Anthropic hat Congress um Gegenmaßnahmen und Informationsaustausch gebeten
Die Technik: Distillation als Waffe
Die Attacke nutzt eine Methode namens Distillation – ein Verfahren, das eigentlich für legitime Zwecke gedacht ist. Normalerweise nutzen KI-Hersteller Distillation, um Wissen aus großen Modellen in kleinere zu übertragen, ähnlich einem Lehrer-Schüler-Verhältnis. Alibaba soll diesen Ansatz jedoch pervertiert haben: Statt legitimer Nutzung wurde Claude systematisch "ausgewrungen", um fortgeschrittene Fähigkeiten zu extrahieren und ins eigene Modell zu integrieren.
Getarnt als normaler Nutzer
Das Perfide an der Operation: Sie war darauf ausgelegt, normal auszusehen. Die 25.000 Konten ahmten echtes Nutzerverhalten nach, um nicht aufzufallen. Über drei Monate hinweg wurden die Millionen von Prompts gestellt – eine industrielle Skalierung des Datendiebstahls, die nur durch automatisierte Systeme möglich war. Anthropic entdeckte das Muster und meldete es.
Was Anthropic von Congress fordert
In einem Schreiben an Congress fordert Anthropic konkrete Maßnahmen:
| Forderung | Zweck |
|---|---|
| Informationsaustausch zwischen Behörden | Früherkennung ähnlicher Attacken |
| Strafen für industrielle Siphoning-Operationen | Abschreckung ausländischer Akteure |
| Monitoring von Zugriffsmustern | Prävention von Massenabzug |
Das Unternehmen warnt, dass dies nicht die letzte solche Attacke sein wird – ein Signal an die US-Regierung, dass der Wettbewerb um KI-Technologie zunehmend auch Sicherheitsfragen aufwirft.
Was das für deutsche Unternehmen bedeutet
Die Attacke auf Anthropic ist ein Weckruf für jeden deutschen KI-Anbieter und jedes Unternehmen, das proprietäre Modelle betreibt. Wenn selbst ein gut bewachter US-Konzern über Millionen Prompts ausgebeutet werden kann, sind deutsche Firmen nicht automatisch sicherer – eher im Gegenteil, da sie oft weniger Ressourcen für Sicherheitsüberwachung haben. Die Frage stellt sich: Wie erkennst du, ob dein Modell systematisch abgezogen wird? Und welche technischen und organisatorischen Maßnahmen brauchst du, um dich zu schützen? Zugleich zeigt der Fall, dass bloße Nutzungsbedingungen nicht ausreichen – es braucht aktive Anomalieerkennung und möglicherweise auch regulatorische Unterstützung.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
