Der Militärische Abschirmdienst (MAD) der Bundeswehr will künftig KI-gestützte Scanverfahren einsetzen, um bei der Überprüfung von Bewerbern rechtsextreme Tendenzen frühzeitig zu erkennen. Das zeigt einen konkreten Anwendungsfall für automatisierte Sicherheitsüberwachung in einer deutschen Behörde – und wirft Fragen zu Genauigkeit, Diskriminierungsrisiken und rechtlicher Zulässigkeit auf.
Kurz & knapp
- Der MAD plant automatisierte Scanverfahren zur Früherkennung von Extremismus bei Bewerbern
- Ziel ist die Identifikation von rechtsextremer Gesinnung vor Einstellung in die Bundeswehr
- Das Projekt fällt unter Hochrisiko-KI gemäß EU AI Act und unterliegt strengeren Transparenz- und Kontrollpflichten
- Bislang keine Angaben zu Testphase, Genauigkeitsquoten oder Einsatzzeitpunkt
Sicherheit vs. Datenschutz: Das Spannungsfeld
Der Einsatz von KI zur Extremismuserkennung adressiert ein echtes Sicherheitsinteresse der Bundeswehr: Infiltration durch Extremisten gefährdet Kohäsion und Vertrauen in die Institution. Automatisierte Verfahren versprechen Skalierbarkeit und Konsistenz bei der Überprüfung großer Bewerbermengen.
Allerdings entstehen dabei erhebliche Risiken. Automatisierte Klassifikation von Gesinnung basiert auf Mustern in Daten – und diese Muster können Bias reproduzieren oder verstärken. Wer wird als "verdächtig" markiert? Welche Datenquellen fließen ein – Social Media, Kommunikationsdaten, Netzwerkanalysen? Wie wird mit falsch-positiven Ergebnissen umgegangen, also Bewerbern, die zu Unrecht als extremistisch eingestuft werden?
Regulatorische Einordnung
Das Projekt fällt unter die Hochrisiko-KI-Kategorie des EU AI Act (Anhang III, Punkt 6: "Einsatz von KI-Systemen zur Bewertung des Risikos, das eine natürliche Person für die öffentliche Sicherheit darstellt"). Das bedeutet:
| Anforderung | Implikation |
|---|---|
| Transparenzmitteilung | Betroffene Personen müssen informiert werden, dass KI an der Entscheidung beteiligt ist |
| Dokumentation | Vollständige Nachverfolgung des Systems, Trainingsdaten, Testresultate erforderlich |
| Menschliche Kontrolle | Keine vollautomatisierte Ablehnung – Menschen müssen Entscheidungen überprüfen |
| Audit & Monitoring | Regelmäßige Überprüfung auf Bias und Fehlerquoten |
Offen bleibt, ob der MAD diese Anforderungen bereits bei der Planung berücksichtigt oder ob sie erst bei der Umsetzung relevant werden.
Was das für deutsche Unternehmen bedeutet
Dieser Fall zeigt, wie schnell KI-Systeme in sensiblen Kontexten eingesetzt werden – und wie wenig Transparenz dabei oft herrscht. Für Unternehmen im Sicherheitssektor, in HR-Tech und in der öffentlichen Verwaltung ist das ein Signal: Hochrisiko-KI braucht robuste Governance. Wer solche Systeme entwickelt oder einsetzt, sollte nicht erst auf Regulierungsdruck oder Skandale warten, sondern proaktiv Bias-Tests, Audit-Trails und menschliche Kontrollmechanismen einbauen. Der EU AI Act wird diese Anforderungen ab 2026 verbindlich machen – wer jetzt anfängt, hat einen Vorsprung.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
