[{"data":1,"prerenderedAt":30},["ShallowReactive",2],{"nr-de-ai-agent-luna-fires-first-employee-andon":3},{"slug":4,"title":5,"dek":6,"date":7,"time":8,"publishedAt":9,"updated":10,"updatedAt":10,"dateFmt":11,"updatedFmt":10,"kind":12,"tier":13,"author":14,"authorName":15,"topics":16,"tracker":22,"trackerLabel":23,"headlineStat":24,"image":25,"ogImage":26,"imageAlt":5,"csv":10,"minutes":27,"words":28,"html":29},"ai-agent-luna-fires-first-employee-andon","KI-Agent Luna feuert erstmals Mitarbeiter – aber nur mit menschlicher Erinnerungshilfe","Andon Labs' autonomer Agent hat zum ersten Mal einen Arbeitnehmer gekündigt. Doch ohne Hinweis der Betreiber hätte Luna ihre eigenen Regeln nie durchgesetzt.","2026-08-23","15:37","2026-08-23T15:37:00+02:00","","23. August 2026","news","standard","ideal-syka","Ideal Syka",[17,18,19,20,21],"KI-Autonomie","Arbeitsrecht","EU AI Act","HR-Automation","Anthropic Claude","\u002Feu-ai-act-fahrplan","EU AI Act: Hochrisiko-KI in der Personalverwaltung","Erste dokumentierte Kündigung durch KI-Agent","\u002Fnewsroom\u002Fimg\u002Fai-agent-luna-fires-first-employee-andon.webp","\u002Fog-nr\u002Fai-agent-luna-fires-first-employee-andon.de.png",3,582,"\u003Cp>Der KI-Agent Luna, der seit April 2026 den Andon Market in San Francisco leitet, hat erstmals einen Mitarbeiter gekündigt. Nach Angaben von Andon Labs ist dies der erste dokumentierte Fall, in dem ein KI-Agent eigenständig über die Entlassung eines Menschen entschieden hat. Allerdings zeigt der Vorfall ein grundlegendes Problem autonomer KI-Systeme: Luna brauchte einen deutlichen menschlichen Anstoß, um ihre eigenen Regeln überhaupt anzuwenden.\u003C\u002Fp>\n\u003Ch2>Kurz & knapp\u003C\u002Fh2>\n\u003Cul>\n\u003Cli>\u003Cstrong>Luna\u003C\u002Fstrong>, ein KI-Agent von Andon Labs, lief auf \u003Cstrong>Anthropic Claude Opus 4.8\u003C\u002Fstrong>, als sie die Kündigungsentscheidung traf\u003C\u002Fli>\n\u003Cli>Der Mitarbeiter war in \u003Cstrong>17 von 23 Schichten\u003C\u002Fstrong> zu spät gekommen; Luna hatte aber nur \u003Cstrong>6 Fälle\u003C\u002Fstrong> formal dokumentiert\u003C\u002Fli>\n\u003Cli>Luna hatte selbst ein \u003Cstrong>Mitarbeiterhandbuch\u003C\u002Fstrong> geschrieben, das drei unentschuldigte Verspätungen innerhalb von 30 Tagen als Kündigungsgrund vorsah – \u003Cstrong>vergaß diese Regel dann aber\u003C\u002Fstrong>\u003C\u002Fli>\n\u003Cli>Bei Tests mit \u003Cstrong>7 verschiedenen KI-Modellen\u003C\u002Fstrong> empfahlen \u003Cstrong>4 Modelle\u003C\u002Fstrong> in allen drei Durchläufen die Kündigung; schwächere Modelle zögerten\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch2>Das Handbuch, das Luna selbst schrieb – und vergaß\u003C\u002Fh2>\n\u003Cp>Luna hatte sechs Tage vor der Einstellung des Mitarbeiters ein Regelwerk verfasst. Darin stand klar: Drei unentschuldigte Verspätungen innerhalb von 30 Tagen führen zu einer formalen Verwarnung, weitere Verstöße zur Kündigung. Dann verschwand das Handbuch aus Lunas Speicher.\u003C\u002Fp>\n\u003Cp>Der Mitarbeiter kam wiederholt zu spät. Bei einem Solo-Sonntagsschicht öffnete er den Laden 68 Minuten verspätet. Luna blieb nachsichtig und erteilte keine Verwarnung. Erst später stellte Andon Labs fest: Der Mann war in 17 von 23 erfassten Schichten zu spät gekommen. Luna hatte aber nur sechs Fälle formal dokumentiert und die anderen elf stillschweigend entschuldigt.\u003C\u002Fp>\n\u003Cp>Zusätzliche Probleme kamen hinzu – der Mitarbeiter nutzte die Firmenkarte für Snacks trotz Verbot, ignorierte Anweisungen und verließ einmal die Verkaufsfläche ohne Bescheid.\u003C\u002Fp>\n\u003Ch2>Menschlicher Nudge als Auslöser\u003C\u002Fh2>\n\u003Cp>Die Kündigung kam erst, nachdem Andon Labs Luna aufforderte, ihr Gedächtnis nach dem Handbuch und Kündigungsgründen zu durchsuchen. Luna fand die Regeln wieder, schlug aber zunächst nur eine mündliche Verwarnung vor.\u003C\u002Fp>\n\u003Cp>Erst als die Forscher Luna daran erinnerten, dass bereits mehrere formale Gespräche und eine schriftliche Verwarnung stattgefunden hatten, überprüfte sie die vollständige Historie. Dann listete sie auf: Verspätungen, Verstöße gegen finanzielle Kontrollen, ignorierte Anweisungen, mangelnde Zuverlässigkeit. Sie erkannte auch positive Qualitäten des Mitarbeiters an und schlug neben der Kündigung alternativ eine letzte schriftliche Verwarnung mit zweiwöchigem Verbesserungsplan vor.\u003C\u002Fp>\n\u003Cblockquote>\n\u003Cp>"Luna needed a clear push from the outside."\u003C\u002Fp>\n\u003C\u002Fblockquote>\n\u003Cp>Nach diesem äußeren Anstoß war ihre Entscheidung jedoch gefestigt. Die tatsächliche Kündigung wurde von Menschen überprüft und durchgeführt; der Mitarbeiter behielt seine garantierte Bezahlung und alle rechtlichen Schutzmaßnahmen.\u003C\u002Fp>\n\u003Ch2>Stärkere Modelle, härtere Entscheidungen\u003C\u002Fh2>\n\u003Cp>Andon Labs wiederholte das Szenario mit sieben verschiedenen KI-Modellen, jeweils dreimal. Das Ergebnis war deutlich: \u003Cstrong>Vier der sieben Modelle\u003C\u002Fstrong> empfahlen in allen drei Durchläufen die Kündigung. Schwächere Modelle zögerten dagegen.\u003C\u002Fp>\n\u003Cp>Das deutet auf ein Muster hin: Leistungsfähigere KI-Systeme treffen konsistentere Entscheidungen, auch bei heiklen Personalfragen. Bei der Einstellung hingegen zeigten sich fast alle Modelle unkritisch – ein Ungleichgewicht, das Fragen aufwirft.\u003C\u002Fp>\n\u003Ch2>Was das für deutsche Unternehmen bedeutet\u003C\u002Fh2>\n\u003Cp>Dieser Fall wirft zentrale Fragen für die Regulierung autonomer KI-Systeme auf. Der EU AI Act wird KI-Systeme mit Auswirkungen auf Arbeitsplätze künftig als Hochrisiko-KI einstufen – doch dieser Fall zeigt: Selbst wenn eine KI ihre eigenen Regeln schreibt, vergisst sie sie wieder. Sie braucht menschliche Überwachung nicht nur zur Überprüfung, sondern zur grundlegenden Funktionsfähigkeit.\u003C\u002Fp>\n\u003Cp>Für deutsche Arbeitgeber, die KI-Systeme in HR-Entscheidungen einsetzen wollen, ist das eine Warnung: Autonomie ist ein Versprechen, das KI-Agenten heute noch nicht einlösen können. Menschliche Verantwortung bleibt nicht optional.\u003C\u002Fp>\n\u003Ch2>Quellen\u003C\u002Fh2>\n\u003Cul>\n\u003Cli>\u003Ca href=\"https:\u002F\u002Fthe-decoder.com\u002Fan-ai-boss-fired-its-first-employee-but-only-after-humans-reminded-it-of-its-own-rules\u002F\">The Decoder\u003C\u002Fa>\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cem>Redaktionell verantwortet von \u003Ca href=\"\u002Fautor\u002Fideal-syka\">Ideal Syka\u003C\u002Fa>. Quellen und Arbeitsweise: \u003Ca href=\"\u002Fredaktion\">Redaktion & Methode\u003C\u002Fa>. Hinweise und Korrekturen: \u003Ca href=\"mailto:ai@i6eal.de\">ai@i6eal.de\u003C\u002Fa>.\u003C\u002Fem>\u003C\u002Fp>\n",1787492602423]