Unter den Lesern verbreitet ist die Annahme, agentische KI und KI-Agenten fielen durch das regulatorische Raster und seien vom EU-KI-Gesetz nicht erfasst. Die Autorinnen des Beitrags auf Unite.AI widersprechen dem: Agentische KI unterliegt der Verordnung, weil sie unter die weiter gefasste Definition eines KI-Systems fällt. Diese Einordnung stützen sie auf FAQs der Europäischen Kommission zu „Agenten“ und „agentischer KI“.
Hintergrund
Der AI Act reguliert nach den Angaben der Autorinnen nicht bestimmte Technologien, sondern was eine Technologie tut und welche Risiken sie schafft. Deshalb erwähnt die Verordnung das Wort „Agent“ nicht. Agentische KI basiert häufig auf großen Sprachmodellen, die als KI-Modelle mit allgemeinem Verwendungszweck reguliert werden. Interagiert ein agentisches System mit Menschen, greifen zudem die Transparenzanforderungen der Verordnung.
Wird ein KI-Modell als mit einem systemischen Risiko behaftet eingestuft, gelten für den Anbieter zusätzliche Anforderungen, unter anderem Bewertungen der Fähigkeiten des Modells – einschließlich seiner autonomen und agentischen Funktionen. Anbieter von Systemen mit Auswirkungen auf Grundrechte müssen laut dem Beitrag umfassende Risikomanagementsysteme einrichten, die auch bewerten, wie Nutzer das System missbräuchlich verwenden könnten.
Einordnung
Die Autorinnen warnen vor regulatorischer Vereinnahmung: Wenn Anbieter wie die im Beitrag genannten Unternehmen Selbstregulierung vorschlagen, könnte das die Durchsetzung der Verordnung schwächen. Als Vergleich nennen sie das Weiße Haus, dessen Abkommen zur Superintelligenz eine „freiwillige Vereinbarung“ ist. Der Beitrag selbst räumt ein, dass die Verordnung nicht perfekt ist und wahrscheinlich weiterentwickelt werden muss.
Für Unternehmen, die KI-Agenten einsetzen, könnte die Einordnung bedeuten, dass Pflichten zu Transparenz und Risikomanagement auch für agentische Systeme gelten, sofern sie in den Anwendungsbereich fallen. Ob und welche Pflichten im Einzelfall greifen, hängt davon ab, wofür das System eingesetzt wird; diese Prüfung ersetzt der Beitrag nicht.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.




