DatenSicherheit

Website 'In the Weights' zeigt, welche Personen in Modellgewichten gespeichert sind

Eine von ehemaligen OpenAI‑Angestellten gebaute Website testet mehrere LLMs darauf, ob und wie stark Namen in den Gewichten der Modelle repräsentiert sind.

Im Detail

  • Projekt von Joey Flynn und Thomas Dimson (beide ehemalige OpenAI‑Mitarbeiter).
  • Site fragt mehrere Modelle ab, kombiniert Ergebnisse und weist jedem Namen einen 'strength score' zu (Beispiele: 175, 262; Max laut Leaderboard 996 für sehr bekannte Personen).
  • Kleinere Modelle machen es schwerer, in Ergebnissen aufzutauchen; Llama‑Modelle mit ~1 Mrd. Parametern gelten als Hinweis auf hohe Relevanz.
  • Autoren weisen auf Grenzen hin: Halluzinationen, Tippfehler und häufige Namen verfälschen Scores.

Warum es zählt

Für Unternehmen ist relevant zu wissen, ob und wie Personen (z. B. Kund*innen, Mitarbeiter*innen, Gründer) in öffentlich oder privat trainierten Modellen repräsentiert sein können — das betrifft Datenschutz, Reputationsrisiken und Compliance bei Datenverwendung.

Für dich Prüfe, ob Schlüsselpersonen deines Unternehmens in externen Modellen vorkommen könnten; dokumentiere Trainingsdatenquellen und kläre Datenschutz‑/Reputationsrisiken mit deinen Datenlieferanten.

← Alle News

Zusammenfassungen werden automatisch erstellt und verlinken auf die Originalquelle.