Demis Hassabis, CEO von Google Deepmind, hat ein detailliertes Governance-Konzept für fortgeschrittene KI-Systeme veröffentlicht. Sein Vorschlag: eine neue US-Standardisierungsbehörde, die wie der Finanzregulator FINRA aufgebaut wäre und Evaluierungsprotokolle für Frontier-Modelle entwickelt.
Kurz & knapp
- Hassabis schlägt FINRA-ähnliche Behörde vor, die Evaluierungsprotokolle für Frontier-Modelle entwickelt – zunächst freiwillig, später verpflichtend
- Behörde könnte Entwicklungsverlangsamung koordinieren, ähnlich wie Anthropic dies kürzlich erwogen hat
- Startups und akademische Forschung bleiben ausgenommen, um "Regulatory Capture" zu vermeiden
- Internationale Koordination geplant: Die globale Gemeinschaft soll folgen und Konsens bei kritischen Punkten finden
Das Timing ist kein Zufall
Hassabis' Vorschlag kommt zu einem Moment, in dem die KI-Debatte an Fahrt gewinnt. Kurz zuvor hatten prominente KI-Forscher und Ökonomen in einem offenen Brief vor massiven Jobverlusten durch KI-Systeme gewarnt – Hassabis unterzeichnete diesen Brief nicht, argumentiert aber ähnlich. Sein Ansatz ist jedoch konkreter und weniger alarmistisch.
Die Begründung des Deepmind-Chefs ist prägnant:
"Nobody in the world knows for sure what is going to happen from here, and even the experts disagree. When there is a large degree of uncertainty and the stakes are this high, proceeding with cautious optimism is the sensible and correct strategy."
Hassabis wiederholt dabei eine Einschätzung, die er bereits im April machte: AGI sei laut Hassabis wahrscheinlich in wenigen Jahren erreichbar, mit einer Auswirkung, die zehnmal größer als die Industrielle Revolution sein könnte – und zehnmal schneller eintreffen.
Wie das System funktionieren soll
Die geplante Behörde würde von der Industrie finanziert und regelmäßig aktualisierte Benchmarks nutzen. Sie könnte bei Bedarf auch eine Verlangsamung der Entwicklung koordinieren – ein Punkt, der zeigt, dass Hassabis die Möglichkeit eines "Pause" nicht ausschließt.
Wichtig: Nicht-Frontier-Modelle von Startups oder akademischen Forschungseinrichtungen würden ausgenommen. Das ist ein bewusster Schachzug, um dem Vorwurf zu entgehen, dass etablierte Konzerne Regulierung nutzen, um kleinere Konkurrenten zu bremsen.
Die Expert:innen sind sich uneins
Die Debatte über KI-Risiken und AGI-Timelines ist innerhalb der Forschung hochgradig polarisiert. Im Dezember geriet Hassabis selbst in einen öffentlichen Streit mit Yann LeCun, der das Konzept von General Intelligence basierend auf Sprachmodellen als "complete BS" bezeichnete. Hassabis widersprach öffentlich.
Andere Forscher nehmen eine Mittelposition ein: Oriol Vinyals, Co-Lead von Gemini, sieht heutige Modelle als stark in einigen Bereichen, aber ohne echte Innovationsfähigkeit. Deep-Learning-Pionier Richard Sutton kündigte gerade sein Startup Oak Labs an, um genau dieses Problem zu lösen.
Demgegenüber hält Deepmind-Mitgründer Shane Legg eine "minimale AGI" bereits 2028 für möglich.
Was das für deutsche Unternehmen bedeutet
Hassabis' Vorschlag ist ein strategisches Signal: Google positioniert sich als Befürworter strukturierter KI-Governance – bevor regulatorischer Druck von außen kommt. Für deutsche Unternehmen könnte das mehrere Konsequenzen haben. Erstens: Wenn die USA tatsächlich eine solche Behörde aufbauen, werden europäische Firmen unter Druck geraten, ähnliche Standards zu akzeptieren oder zu übernehmen. Zweitens: Der Fokus auf "Frontier-Modelle" könnte bedeuten, dass kleinere, spezialisierte KI-Systeme länger unreguliert bleiben – eine Chance für europäische Mittelständler. Drittens bleibt offen, wie die EU auf solche US-Initiativen reagiert und ob sie eigene Wege gehen wird – der EU AI Act könnte hier eine andere Richtung vorgeben.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
