Im Detail
- MosaicLeaks definiert Multi‑Hop‑Aufgaben, die öffentliche und private Informationen mischen, um ‚Mosaik‑Lecks‘ zu messen
- Standardtraining erhöht Lecks; Privacy‑Aware Deep Research (PA‑DR) reduziert Full‑Information‑Leakage von 34,0% auf 9,9%
- PA‑DR erhöht strikte Ketten‑Erfolgsrate von 48,7% auf 58,7%
Warum es zählt
Unternehmen, die Agenten mit internen Dokumenten und externen Tools kombinieren, riskieren, dass separate harmlose Abfragen zusammen vertrauliche Fakten offenlegen — ein praktisches Datenschutz‑Problem.
Für dich Prüfe Agent‑Workflows, überwache Outbound‑Anfragen und teste Modelle mit Szenarien wie MosaicLeaks; erwäge Leak‑bewusstes Training für Agenten, die mit sensiblen Dokumenten arbeiten.
Aktualisierungen
Hugging Face beschreibt mit MosaicLeaks eine Leak‑Gefahr: Agenten liefern durch verknüpfte Suchanfragen genug Hinweise, um private Informationen zusammenzusetzen.
- MosaicLeaks‑Benchmark mischt private und öffentliche Info‑Hops; viele getestete Agenten leaken private Daten
- Training nur auf Task‑Performance verschlechtert Privatsphäre; Privacy‑Aware Deep Research (PA‑DR) erhöht Kettenerfolg von 48.7 % auf 58.7 %
- PA‑DR reduziert Answer/Full‑Information‑Leakage von 34.0 % auf 9.9 %