Im Detail
- Microsoft patcht kürzlich eine als maximal kritisch bewertete Schwachstelle in M365 Copilot.
- Proof‑of‑concept zeigt, wie Parameter‑to‑Prompt‑Injection und Markup/HTML genutzt werden, um ausgegebene AI‑Inhalte so zu formen, dass sensible Daten per Webanfrage an Angreifer geleitet werden.
- Existierende Guardrails (Ausgabe in <code>‑Blöcken, Beschränkung von Ziel‑Domains) lassen sich laut Forschern mit Kombinationen von Techniken umgehen.
- Problemursache laut Bericht: LLMs können nicht zuverlässig zwischen Nutzeranweisungen und eingebetteten Drittinhalts‑Instruktionen unterscheiden.
Warum es zählt
Die Lücke demonstriert eine systemische Schwachstelle bei AI‑Assistants, die automatisierte Datenexfiltration ermöglicht; Unternehmen, die Copilot oder andere LLM‑Dienste nutzen, riskieren Offenlegung sensibler Zugangs‑ und Authentifizierungsdaten.
Für dich Prüfe sofort, welche automatisierten KI‑Workflows E‑Mails oder Webinhalte verarbeiten, schränke Copilot‑Zugriffe auf vertrauliche Postfächer ein und setze zusätzliche Prozesskontrollen (z. B. keine automatische Formularausfüllung, Logging, MFA‑Monitoring).