AnalyseEU AI ActKI-AgentenRegulierung

EU-KI-Gesetz erfasst auch agentische KI – was das konkret bedeutet

Laut einem Gastbeitrag von Dr. Ley Muller und Gyda Grodås Christiansen fallen KI-Agenten bereits unter den AI Act, weil sie die Definition eines KI-Systems erfüllen. Die Aussage stammt aus einem Meinungsbeitrag auf Unite.AI.

Laut Unite.AI-Gastbeitrag: agentische KI fällt bereits unter den EU AI Act

EU-KI-Gesetz erfasst auch agentische KI – was das konkret bedeutet

Unter den Lesern verbreitet ist die Annahme, agentische KI und KI-Agenten fielen durch das regulatorische Raster und seien vom EU-KI-Gesetz nicht erfasst. Die Autorinnen des Beitrags auf Unite.AI widersprechen dem: Agentische KI unterliegt der Verordnung, weil sie unter die weiter gefasste Definition eines KI-Systems fällt. Diese Einordnung stützen sie auf FAQs der Europäischen Kommission zu „Agenten“ und „agentischer KI“.

Hintergrund

Der AI Act reguliert nach den Angaben der Autorinnen nicht bestimmte Technologien, sondern was eine Technologie tut und welche Risiken sie schafft. Deshalb erwähnt die Verordnung das Wort „Agent“ nicht. Agentische KI basiert häufig auf großen Sprachmodellen, die als KI-Modelle mit allgemeinem Verwendungszweck reguliert werden. Interagiert ein agentisches System mit Menschen, greifen zudem die Transparenzanforderungen der Verordnung.

Wird ein KI-Modell als mit einem systemischen Risiko behaftet eingestuft, gelten für den Anbieter zusätzliche Anforderungen, unter anderem Bewertungen der Fähigkeiten des Modells – einschließlich seiner autonomen und agentischen Funktionen. Anbieter von Systemen mit Auswirkungen auf Grundrechte müssen laut dem Beitrag umfassende Risikomanagementsysteme einrichten, die auch bewerten, wie Nutzer das System missbräuchlich verwenden könnten.

Einordnung

Die Autorinnen warnen vor regulatorischer Vereinnahmung: Wenn Anbieter wie die im Beitrag genannten Unternehmen Selbstregulierung vorschlagen, könnte das die Durchsetzung der Verordnung schwächen. Als Vergleich nennen sie das Weiße Haus, dessen Abkommen zur Superintelligenz eine „freiwillige Vereinbarung“ ist. Der Beitrag selbst räumt ein, dass die Verordnung nicht perfekt ist und wahrscheinlich weiterentwickelt werden muss.

Für Unternehmen, die KI-Agenten einsetzen, könnte die Einordnung bedeuten, dass Pflichten zu Transparenz und Risikomanagement auch für agentische Systeme gelten, sofern sie in den Anwendungsbereich fallen. Ob und welche Pflichten im Einzelfall greifen, hängt davon ab, wofür das System eingesetzt wird; diese Prüfung ersetzt der Beitrag nicht.

Quellen

Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.

Teilen
← Alle Beiträge

Alle Analysen basieren auf eigenen Messungen von i6eal oder auf klar gekennzeichneten Quellen. Zahlen sind Momentaufnahmen und können sich ändern; Korrekturen weisen wir transparent aus.