[{"data":1,"prerenderedAt":29},["ShallowReactive",2],{"nr-de-three-ai-endpoints-measured-latency-change-frankfurt":3},{"slug":4,"title":5,"dek":6,"date":7,"time":8,"publishedAt":9,"updated":10,"updatedAt":10,"dateFmt":11,"updatedFmt":10,"kind":12,"tier":13,"author":14,"authorName":15,"topics":16,"tracker":21,"trackerLabel":22,"headlineStat":23,"image":24,"ogImage":25,"imageAlt":5,"csv":10,"minutes":26,"words":27,"html":28},"three-ai-endpoints-measured-latency-change-frankfurt","3 KI-Endpunkte mit gemessener Latenzänderung aus Frankfurt","Der i6eal KI-Latenz-Index misst die Zeit bis zum ersten Inhaltstoken aus einer Lambda in Frankfurt. Für drei Endpunkte zeigen die Daten zwischen zwei UTC-Wochen unterschiedlich große Veränderungen, die du nur vorsichtig lesen solltest.","2026-11-02","08:21","2026-11-02T08:21:00+01:00","","2. November 2026","daten","standard","ideal-syka","Ideal Syka",[17,18,19,20],"KI-Latenz","Frankfurt","Modelle","Infrastruktur","\u002Fki-latenz","Zum KI-Latenz-Index","Mistral Small (Gateway): TTFT 443 ms → 332 ms (−25,06 %)","\u002Fnewsroom\u002Fimg\u002Fthree-ai-endpoints-measured-latency-change-frankfurt.webp","\u002Fog-nr\u002Fthree-ai-endpoints-measured-latency-change-frankfurt.de.png",2,436,"\u003Ch2>Was gemessen wurde\u003C\u002Fh2>\n\u003Cp>Der Vergleich stützt sich auf vorab berechnete Beobachtungen des i6eal KI-Latenz-Index. Verglichen werden die Mediane täglicher Messwerte in zwei abgeschlossenen UTC-Wochen, jeweils nur für Wochentage, an denen in beiden Wochen ein Wert vorliegt. Für sieben Endpunkte gab es ausreichend Tagespaare und unveränderte Modell- sowie Routenangaben; drei davon zeigen eine im Index ausgewiesene Veränderung.\u003C\u002Fp>\n\u003Ch2>Was die Zahlen andeuten\u003C\u002Fh2>\n\u003Cp>Du kannst aus diesen Daten ablesen, wie sich die Antwortzeit innerhalb desselben, unveränderten Endpunkts zwischen den beiden Wochen verschoben hat. Bei Mistral Small über die Gateway-Route sank der Medianwert deutlich, bei Claude Haiku 4.5 über AWS Bedrock ebenfalls. Bei GPT-5 mini über die direkte OpenAI-Route stieg der Wert dagegen an. Diese Richtungen gelten nur innerhalb des jeweiligen Endpunkts.\u003C\u002Fp>\n\u003Ch2>Wo die Aussagekraft endet\u003C\u002Fh2>\n\u003Cp>Die Messung ist eine kurze, synthetische Probe mit einem kurzen Prompt, keine Messung deines vollständigen Workloads. Sie belegt keine Ursache für die Veränderungen, keine statistische Signifikanz und keine Aussage über Modellqualität oder Ausfallsicherheit. Direkte und Gateway-Routen werden nicht gegeneinander gerankt; die Tabelle ist deshalb keine Rangliste der Anbieter.\u003C\u002Fp>\n\u003Ch2>Was du daraus mitnehmen kannst\u003C\u002Fh2>\n\u003Cp>Für deine eigene Architekturentscheidung ist vor allem wichtig, dass Latenz zwischen Wochen schwankt und sich pro Endpunkt unterschiedlich entwickeln kann. Wenn du Latenz für eine konkrete Anwendung bewerten willst, lohnt sich eine eigene Messung mit deinen Prompts und deiner Last.\u003C\u002Fp>\n\u003Ch2>Die gemessenen Latenzänderungen\u003C\u002Fh2>\n\u003Cdiv class=\"tbl-scroll\">\u003Ctable>\n\u003Cthead>\n\u003Ctr>\n\u003Cth>Endpunkt\u003C\u002Fth>\n\u003Cth>Route\u003C\u002Fth>\n\u003Cth align=\"right\">Tage je Woche im Paar\u003C\u002Fth>\n\u003Cth align=\"right\">TTFT vorher (ms)\u003C\u002Fth>\n\u003Cth align=\"right\">TTFT jetzt (ms)\u003C\u002Fth>\n\u003Cth align=\"right\">Änderung\u003C\u002Fth>\n\u003C\u002Ftr>\n\u003C\u002Fthead>\n\u003Ctbody>\u003Ctr>\n\u003Ctd>Mistral Small (Mistral)\u003C\u002Ftd>\n\u003Ctd>gateway\u003C\u002Ftd>\n\u003Ctd align=\"right\">7\u003C\u002Ftd>\n\u003Ctd align=\"right\">443,00\u003C\u002Ftd>\n\u003Ctd align=\"right\">332,00\u003C\u002Ftd>\n\u003Ctd align=\"right\">-25,06 %\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003Ctr>\n\u003Ctd>Claude Haiku 4.5 (AWS Bedrock)\u003C\u002Ftd>\n\u003Ctd>direct\u003C\u002Ftd>\n\u003Ctd align=\"right\">7\u003C\u002Ftd>\n\u003Ctd align=\"right\">703,00\u003C\u002Ftd>\n\u003Ctd align=\"right\">573,00\u003C\u002Ftd>\n\u003Ctd align=\"right\">-18,49 %\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003Ctr>\n\u003Ctd>GPT-5 mini (OpenAI)\u003C\u002Ftd>\n\u003Ctd>direct\u003C\u002Ftd>\n\u003Ctd align=\"right\">7\u003C\u002Ftd>\n\u003Ctd align=\"right\">685,00\u003C\u002Ftd>\n\u003Ctd align=\"right\">809,00\u003C\u002Ftd>\n\u003Ctd align=\"right\">+18,10 %\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003C\u002Ftbody>\u003C\u002Ftable>\u003C\u002Fdiv>\n\u003Cp>2026-10-19–2026-10-25 → 2026-10-26–2026-11-01 (UTC).\u003C\u002Fp>\n\u003Ch2>Abdeckung und Messgrenzen\u003C\u002Fh2>\n\u003Cp>7 Endpunkte haben ausreichende Tagespaare und unveränderte Modell-\u002FRoutenangaben. 0 Endpunkte haben zu wenige Tagespaare; 0 Endpunkte wurden wegen geänderter Modell-\u002FRoutenangaben ausgeschlossen.\u003C\u002Fp>\n\u003Cp>TTFT misst die Zeit bis zum ersten Inhaltstoken aus einer Lambda in Frankfurt. Verglichen werden die Mediane täglicher Messwerte in zwei abgeschlossenen UTC-Wochen. Es zählen nur Wochentage, für die in beiden Wochen ein Wert vorliegt; je Endpunkt müssen mindestens fünf Tagespaare vorliegen. Der Collector verwirft einen Aufwärmdurchlauf und behält pro Messrunde die schnellere von zwei erfolgreichen Proben. Das ist eine kurze synthetische Probe, keine Messung deines vollständigen Workloads. Direkte und Gateway-Routen werden nicht gegeneinander gerankt. Die beobachteten Unterschiede belegen weder eine Ursache noch statistische Signifikanz, Modellqualität oder Ausfallsicherheit.\u003C\u002Fp>\n\u003Cp>\u003Ca href=\"https:\u002F\u002Fi6eal.de\u002Fki-latenz\u002F\">i6eal KI-Latenz-Index\u003C\u002Fa>. Datenstand: 2026-11-02T01:20:59.204Z.\u003C\u002Fp>\n\u003Ch2>Quellen\u003C\u002Fh2>\n\u003Cul>\n\u003Cli>\u003Ca href=\"https:\u002F\u002Fi6eal.de\u002Fki-latenz\u002F\">i6eal\u003C\u002Fa>\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>\u003Cem>Redaktionell verantwortet von \u003Ca href=\"\u002Fautor\u002Fideal-syka\">Ideal Syka\u003C\u002Fa>. Quellen und Arbeitsweise: \u003Ca href=\"\u002Fredaktion\">Redaktion & Methode\u003C\u002Fa>. Hinweise und Korrekturen: \u003Ca href=\"mailto:ai@i6eal.de\">ai@i6eal.de\u003C\u002Fa>.\u003C\u002Fem>\u003C\u002Fp>\n",1793609679437]