Anthropic hat einen Durchbruch in der KI-Sicherheit gemeldet: Das neue Modell Claude Opus 5 erreicht in Kombination mit dem Auto Mode bei Browser-Agenten eine Prompt-Injection-Erfolgsrate von null Prozent – getestet in 129 Szenarien. Das adressiert eines der größten Sicherheitsprobleme autonomer KI-Agenten im Web.
Kurz & knapp
- Null Prozent Erfolgsrate bei Browser-Agenten mit Opus 5 + Auto Mode in 129 Testszenarien
- Ohne zusätzliche Schutzschichten liegt die Rate bei 3,7 Prozent
- Im Gray Swan IPI-Benchmark erreicht Opus 5 nach 15 Angriffsversuchen 2,0 Prozent
- Die Lösung kombiniert zwei unabhängige Schutzebenen: Datenprüfung auf versteckte Anweisungen + Blockade gefährlicher Aktionen
- Das hauseigene Modell Sonnet 5 erreicht ohne Schutz 0,93 Prozent
Was ist Prompt Injection?
Bei einem Prompt-Injection-Angriff versucht ein Angreifer, die Anweisungen eines KI-Modells zu umgehen – etwa durch versteckten Text auf einer Webseite oder manipulierte Eingaben. Ein Browser-Agent, der autonom im Web unterwegs ist, wird dadurch potenziell zum Werkzeug für Betrug, Datendiebstahl oder Sabotage. Bislang war das eine praktisch unlösbare Schwachstelle.
Zwei Schutzschichten statt eine
Die Null-Prozent-Rate funktioniert allerdings nur mit aktiviertem Auto Mode in Claude Cowork. Das System arbeitet nach dem Prinzip der Verteidigungstiefe: Eine erste Schicht prüft eingehende Daten auf versteckte Anweisungen, eine zweite blockiert gefährliche Aktionen, bevor sie ausgeführt werden. Ein Angreifer muss beide unabhängig überwinden – was in den Tests nicht gelang.
Ohne diese zusätzlichen Schutzschichten zeigt sich ein differenzierteres Bild: Opus 5 liegt bei 3,7 Prozent Erfolgsrate, während das hauseigene Modell Sonnet 5 mit 0,93 Prozent deutlich besser abschneidet. Im Gray Swan IPI-Benchmark – einem Standard-Test der Sicherheitsfirma Gray Swan – sank die Erfolgsrate von Opus 5 nach 15 Angriffsversuchen von 5,5 Prozent (Opus 4.8) auf 2,0 Prozent. Damit führt Opus 5 das Ranking an, gefolgt von Mythos 5 (2,6 %) und Fable 5 (2,8 %).
| Modell | Erfolgsrate (Gray Swan, 15 Versuche) |
|---|---|
| Opus 5 | 2,0 % |
| Mythos 5 | 2,6 % |
| Fable 5 | 2,8 % |
Praxistauglichkeit noch offen
Die Zahlen klingen beeindruckend – aber hier liegt auch die kritische Frage: Halten sie in der Praxis? Anthropic hat die Tests selbst durchgeführt und dokumentiert sie in einer System Card. Unabhängige Sicherheitsforscher werden das Modell vermutlich intensiv testen, um zu prüfen, ob die Null-Prozent-Rate robust ist oder ob kreative Angreifer neue Wege finden, die Schutzschichten zu umgehen.
Die Kombination aus Modell und spezialisierter Schutz-Software ist dabei ein wichtiger Punkt: Es geht nicht allein um KI-Intelligenz, sondern um Architektur. Wer Browser-Agenten einsetzen will, muss also nicht nur auf das Modell schauen, sondern auch auf die Schutzinfrastruktur drum herum.
Was das für deutsche Unternehmen bedeutet
Für deutsche Firmen, die an autonomen KI-Agenten arbeiten oder diese einsetzen wollen, könnte das ein Wendepunkt sein. Bislang war Prompt Injection ein echtes Adoptionshindernis – wer konnte schon einem Browser-Agenten trauen, der potenziell gehackt werden kann? Sollten sich Anthropics Zahlen als praxistauglich erweisen, fällt ein großes Sicherheitsargument gegen KI-Automatisierung weg. Das könnte Investitionen in Agent-Technologie beschleunigen – vorausgesetzt, die Schutzschichten sind auch für andere Modelle und Anwendungen verfügbar.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
