Anthropic nutzt eigenen Angaben zufolge KI, um leistungsfähigere KI zu bauen, und die Ergebnisse sprechen laut einem neuen Bericht der KI-Sicherheitsorganisation METR dafür, dass dies gut funktioniert. Demnach verbessern sich die Modelle des Unternehmens etwa doppelt so schnell wie vor einem Jahr, ohne dass sich eine Verlangsamung abzeichnet. Grundlage ist eine elfwöchige Untersuchung im Haus, die Teil einer Bewertung der KI-Forschung und -Entwicklung des Unternehmens war.
Was der Bericht belegt
Laut METR entspricht die Beschleunigung laut Benchmark-Werten etwa zwei Jahren historischem Fortschritt innerhalb des letzten Jahres. Die Forscher schreiben, sie seien zuversichtlich, dass dies nicht allein auf mehr Rechenleistung beim Training zurückgeht. Der Großteil der Beschleunigung sei bis Oktober auf KI zurückzuführen, mit wachsendem Anteil. Stützen sollen das Slack-Umfragen und Interviews mit Anthropic-Mitarbeitern. Diese berichteten, mit dem leistungsfähigsten internen Modell etwa zwölfmal so produktiv zu sein wie ohne KI-Unterstützung; vor wenigen Monaten lag dieser Wert laut METR bei etwa dem Doppelten dessen, was mit dem Vorgängermodell Mythos 5 berichtet wurde. Vorerst scheine die Beschleunigung vor allem daher zu rühren, dass KI menschliche Forscher unterstützt, nicht dass sie eigenständig arbeitet. METR warnt jedoch, dass vollständig autonome Beiträge bald eine größere Rolle spielen könnten. Abnehmende Erträge oder erkennbare Engpässe fanden die Forscher nicht.
Laut METR wurden drei neuere, noch nicht veröffentlichte Modelle innerhalb von sechs Monaten fertig trainiert, unter den Codenamen Model 2, Model 3 und Model 4. Außerdem gibt es ein unveröffentlichtes Modell aus dem Jahr 2022.
Schwärzungen schränken die Überprüfbarkeit ein
Anthropic stellte METR umfangreiche nicht öffentliche Informationen zur Verfügung, ausdrücklich über den vereinbarten Umfang hinaus. Gleichzeitig erhielten die Prüfer keinen uneingeschränkten Zugang. METR schreibt, der Bericht umfasse rund 100 Seiten, in der öffentlichen Fassung habe Anthropic jedoch den größten Teil der aus Sicht der Prüfer aussagekräftigsten Belege geschwärzt. Viele der geschwärzten Belege ließen mehrere plausible Deutungen zu, weshalb die Öffentlichkeit stärker auf das Urteil von METR angewiesen sei, als wünschenswert wäre. Anthropic-Mitgründer Sam McCandlish begründete die Schwärzungen damit, dass genau zu teilen, was die Beschleunigung antreibt, kommerziell sensibel sei und anderen eine Blaupause liefern würde. Das Unternehmen kündigte an, in den kommenden Wochen einen eigenen Bericht zum Tempo des KI-Fortschritts zu veröffentlichen.
Kritik und Einordnung
Die Veröffentlichung hat unter KI-Sicherheitsforschern scharfe Kritik ausgelöst, weil Anthropic sich öffentlich für Sicherheit und Transparenz einsetzt, den Bericht zufolge aber zugleich die Technologie beschleunigt. Daniel Kokotajlo vom AI Futures Project warf dem Unternehmen vor, „leichtsinnig mit unserem Leben zu spielen“, und kritisierte, dass Anthropic andere als Grund für Schwärzungen anführe, obwohl es selbst nicht langsamer werde. Anthropic lehnte es laut The Verge ab, die Fragen der Redaktion zu beantworten.
Einordnung: Sollte sich das Muster bestätigen, könnte es für Unternehmen und Regulierer relevant werden, wie belastbar Angaben großer Labore zum eigenen Fortschritt überprüfbar sind. Ob die Beschleunigung anhält und wie unabhängige Prüfungen künftig aussehen können, lässt der Bericht offen.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
