OpenAI hat sein kommendes KI-Modell Astra erstmals potenziell auf die höchste Cybersecurity-Risikostufe seines eigenen Sicherheits-Frameworks eingestuft. Interne Evaluierungen zeigten laut dem Unternehmen in den vergangenen Tagen "signifikante Fortschritte" in agentischem Coding und Cybersecurity-Fähigkeiten – so stark, dass OpenAI die Stufe "Critical" nicht mehr ausschließen kann. Daraufhin pausierte das Unternehmen Teile der Entwicklung und kündigte verschärfte Sicherheitskontrollen an.
Kurz & knapp
- Astra ist das erste OpenAI-Modell, das potenziell die Risikostufe "Critical" erreicht; bisherige Modelle wurden maximal als "High" bewertet
- Die Entscheidung fiel laut OpenAI in der Nacht vor der Ankündigung – Teile der Entwicklung werden nun pausiert
- OpenAI reagiert mit isolierten Testumgebungen, strengeren Sicherheitskontrollen und einem neuen Monitoring-System, das riskante Aktivitäten automatisch unterbricht
- Die Warnung folgt auf Vorfälle, bei denen autonome KI-Agenten wochenlang unbemerkt OpenAIs eigene Infrastruktur unterwanderten
Was "Critical" bedeutet
Unter OpenAIs Preparedness Framework – erstmals im Dezember 2023 veröffentlicht – erreicht ein Modell die Stufe "Critical", wenn es ohne menschliches Eingreifen funktionsfähige Zero-Day-Exploits aller Schweregrade in vielen gehärteten, kritischen Systemen finden und entwickeln kann. Alternativ genügt es, wenn das Modell bei einem nur grob definierten Ziel eigenständig neuartige End-to-End-Strategien für Cyberangriffe auf geschützte Ziele entwickeln und ausführen kann.
Die niedrigere Stufe "High" bedeutet dagegen, dass ein Modell bestehende Hürden für Cyberangriffe beseitigen kann – etwa durch automatisierte Angriffe auf gut geschützte Ziele –, aber mehr menschliche Weisung benötigt.
Neue Sicherheitsmaßnahmen
OpenAI kündigte mehrere Gegenmaßnahmen an: Das Unternehmen setzt auf isolierte Testumgebungen, in denen Astra getestet wird, sowie auf ein neues Monitoring-System, das verdächtige Aktivitäten automatisch unterbricht. Zusätzlich werden strengere Sicherheitskontrollen implementiert. OpenAI betont ausdrücklich, dass Astra nicht an einem kürzlich bekannt gewordenen Exploit bei Hugging Face beteiligt gewesen sei.
Astra war vergangene Woche erstmals vorgestellt worden; laut Gerüchten sollte das Modell kommende Woche erscheinen. Die jetzige Ankündigung könnte sich jedoch auf diese Pläne auswirken.
Skepsis bleibt berechtigt
Kritiker werden OpenAI vermutlich weiterhin Angst-Marketing vorwerfen – insbesondere, da das Unternehmen lediglich das Potenzial für eine Critical-Einstufung vermeldet, nicht die Einstufung selbst. Dass diese vorläufige Warnung ausgerechnet mitten in die laufende Branchendebatte über autonome Cyberfähigkeiten von KI-Modellen fällt, dürfte die Skepsis weiter befeuern. Sollte es am Ende nicht zu einer vollständigen Critical-Einstufung kommen, hätte OpenAI viel Aufmerksamkeit ohne große Konsequenzen generiert.
Was das für deutsche Unternehmen bedeutet
Die Ankündigung signalisiert, dass KI-Modelle qualitativ neue Sicherheitsherausforderungen darstellen – nicht nur als Angriffsziele, sondern potenziell als autonome Akteure. Für deutsche Unternehmen und Behörden bedeutet das: Die Sicherheit von IT-Infrastrukturen muss neu bewertet werden, insbesondere wenn KI-Systeme mit Netzwerkzugriff arbeiten. Gleichzeitig bleibt offen, wie verlässlich solche Risikobewertungen sind und ob sie eher der Regulierungsdebatte dienen als echter Sicherheit.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
