[{"data":1,"prerenderedAt":30},["ShallowReactive",2],{"nr-de-waterloo-sicherheitsluecken-open-ai-modelle":3},{"slug":4,"title":5,"dek":6,"date":7,"time":8,"publishedAt":9,"updated":10,"updatedAt":10,"dateFmt":11,"updatedFmt":10,"kind":12,"tier":13,"author":14,"authorName":15,"topics":16,"tracker":22,"trackerLabel":23,"headlineStat":24,"image":25,"ogImage":26,"imageAlt":5,"csv":10,"minutes":27,"words":28,"html":29},"waterloo-sicherheitsluecken-open-ai-modelle","Alle 21 getesteten Open-Source-KI-Modelle knacken ihre eigenen Schutzvorrichtungen","Forscher der University of Waterloo zeigen: Die Sicherheitsvorkehrungen führender Open-Weight-Modelle lassen sich mit alarmierende Leichtigkeit umgehen. Das hat ernsthafte Konsequenzen für Missbrauch im großen Stil.","2026-08-30","20:28","2026-08-30T20:28:00+02:00","","30. August 2026","news","standard","ideal-syka","Ideal Syka",[17,18,19,20,21],"KI-Sicherheit","Open-Source-Modelle","Sicherheitslücken","LLM-Risiken","Forschung","\u002Fstand-der-ki","KI-Sicherheitsforschung","21 von 21 getesteten Open-Source-KI-Modellen knacken ihre Schutzvorrichtungen","\u002Fnewsroom\u002Fimg\u002Fwaterloo-sicherheitsluecken-open-ai-modelle.webp","\u002Fog-nr\u002Fwaterloo-sicherheitsluecken-open-ai-modelle.de.png",3,507,"\u003Cp>Die Sicherheitsvorkehrungen, die in einige der weltweit meistgenutzten KI-Modelle eingebaut sind, lassen sich überraschend einfach entfernen. Das ist das zentrale Ergebnis einer internationalen Studie, die ein Forscherteam der University of Waterloo und der Non-Profit-Organisation FAR.AI veröffentlicht hat. Die Botschaft ist unbequem: Alle \u003Cstrong>21 führenden Open-Weight-Sprachmodelle\u003C\u002Fstrong>, die die Wissenschaftler testeten, konnten trotz ihrer Schutzvorrichtungen manipuliert werden.\u003C\u002Fp>\n\u003Ch2>Kurz & knapp\u003C\u002Fh2>\n\u003Cul>\n\u003Cli>\u003Cstrong>21 von 21\u003C\u002Fstrong> getesteten Open-Source-LLMs ließen sich so manipulieren, dass ihre Sicherheitsbarrieren umgangen wurden\u003C\u002Fli>\n\u003Cli>Das Team entwickelte \u003Cstrong>TamperBench\u003C\u002Fstrong>, ein standardisiertes Test-Werkzeug, um verschiedene Angriffsvektoren zu simulieren\u003C\u002Fli>\n\u003Cli>Forscher warnen: Manipulierte Modelle könnten im großen Stil für \u003Cstrong>Desinformationskampagnen, Phishing-Scams oder Anleitungen zu gefährlichen Chemikalien\u003C\u002Fstrong> missbraucht werden\u003C\u002Fli>\n\u003Cli>Die Studie wurde von Wissenschaftlern aus \u003Cstrong>Kanada, USA und der Schweiz\u003C\u002Fstrong> durchgeführt, darunter Teams vom MIT und der ETH Zürich\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch2>Was die Forscher entdeckten\u003C\u002Fh2>\n\u003Cp>Die Sicherheitslücken sind grundsätzlich: Open-Weight-Modelle – also KI-Systeme, die öffentlich zum Download verfügbar sind – können von jedem heruntergeladen und angepasst werden. Das macht sie attraktiv für Forschung und Entwicklung, aber eben auch anfällig. Dr. Sirisha Rambhatla, Professorin für Management Science and Engineering an der Waterloo und Leiterin des Critical Machine Learning Lab, fasst das Problem so zusammen:\u003C\u002Fp>\n\u003Cblockquote>\n\u003Cp>"When the safety guardrails are stripped out of a capable model, it can be used at scale for harm in ways a single person could never manage manually."\u003C\u002Fp>\n\u003C\u002Fblockquote>\n\u003Cp>Das ist der Kern: Ein einzelner Mensch könnte niemals manuell Millionen von Phishing-Mails schreiben oder eine landesweite Desinformationskampagne fahren. Ein manipuliertes KI-Modell könnte es.\u003C\u002Fp>\n\u003Ch2>TamperBench: Das Test-Werkzeug\u003C\u002Fh2>\n\u003Cp>Um die Anfälligkeit systematisch zu prüfen, entwickelten die Forscher \u003Cstrong>TamperBench\u003C\u002Fstrong>, ein Open-Source-Werkzeug, das verschiedene Angriffsszenarien standardisiert simuliert. Saad Hossain, der Leiter der Studie, erklärt die Motivation:\u003C\u002Fp>\n\u003Cblockquote>\n\u003Cp>"The defences available today don't yet appear strong enough to guarantee that a publicly released model will remain safe once it's in the hands of anyone who chooses to modify it."\u003C\u002Fp>\n\u003C\u002Fblockquote>\n\u003Cp>Die Hoffnung der Forscher: Andere Wissenschaftler werden TamperBench jetzt weiterentwickeln und verbessern. Das Werkzeug soll helfen, robustere Schutzmaßnahmen zu entwickeln – bevor noch mehr Modelle in der freien Wildbahn landen.\u003C\u002Fp>\n\u003Ch2>Warum das auch Behörden betrifft\u003C\u002Fh2>\n\u003Cp>Die Warnung richtet sich nicht nur an Tech-Unternehmen. Hossain betont: Regierungen setzen KI zunehmend in \u003Cstrong>Gesundheitswesen, Betrugserkennung, Bildung und anderen öffentlichen Diensten\u003C\u002Fstrong> ein. Das macht eine rigorosere Bewertung und Beschaffung dieser Modelle notwendig – nicht einfach blind auf Open-Source-Lösungen zu vertrauen.\u003C\u002Fp>\n\u003Cp>Rambhatla betont allerdings auch: Die Schwachstellen sind möglicherweise nicht auf Open-Weight-Modelle beschränkt. Und Open-Source-Modelle bleiben wichtig für Forschung und Transparenz. Die Lösung liegt also nicht darin, sie zu verbieten, sondern sie sicherer zu machen.\u003C\u002Fp>\n\u003Ch2>Was das für dich bedeutet\u003C\u002Fh2>\n\u003Cp>Für deutsche Unternehmen und Behörden ist das ein Weckruf: Wer Open-Source-KI-Modelle einsetzt – sei es für interne Prozesse, Kundenservice oder Sicherheitsanwendungen – sollte nicht davon ausgehen, dass die eingebauten Schutzvorrichtungen halten. Eine genaue Prüfung vor dem Einsatz ist notwendig. Gleichzeitig zeigt die Studie: Die Forschung an sicheren KI-Systemen ist noch lange nicht am Ziel. Wer jetzt investiert, kann später von besseren Lösungen profitieren.\u003C\u002Fp>\n\u003Ch2>Quellen\u003C\u002Fh2>\n\u003Cul>\n\u003Cli>\u003Ca href=\"https:\u002F\u002Fuwaterloo.ca\u002Fnews\u002Fmedia\u002Fmajor-security-weaknesses-found-leading-open-ai-models\">University of Waterloo\u003C\u002Fa>\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cem>Redaktionell verantwortet von \u003Ca href=\"\u002Fautor\u002Fideal-syka\">Ideal Syka\u003C\u002Fa>. Quellen und Arbeitsweise: \u003Ca href=\"\u002Fredaktion\">Redaktion & Methode\u003C\u002Fa>. Hinweise und Korrekturen: \u003Ca href=\"mailto:ai@i6eal.de\">ai@i6eal.de\u003C\u002Fa>.\u003C\u002Fem>\u003C\u002Fp>\n",1788114899840]