Was gemessen wurde
Der Vergleich stützt sich auf vorab berechnete Beobachtungen des i6eal KI-Latenz-Index. Verglichen werden die Mediane täglicher Messwerte in zwei abgeschlossenen UTC-Wochen, jeweils nur für Wochentage, an denen in beiden Wochen ein Wert vorliegt. Für sieben Endpunkte gab es ausreichend Tagespaare und unveränderte Modell- sowie Routenangaben; drei davon zeigen eine im Index ausgewiesene Veränderung.
Was die Zahlen andeuten
Du kannst aus diesen Daten ablesen, wie sich die Antwortzeit innerhalb desselben, unveränderten Endpunkts zwischen den beiden Wochen verschoben hat. Bei Mistral Small über die Gateway-Route sank der Medianwert deutlich, bei Claude Haiku 4.5 über AWS Bedrock ebenfalls. Bei GPT-5 mini über die direkte OpenAI-Route stieg der Wert dagegen an. Diese Richtungen gelten nur innerhalb des jeweiligen Endpunkts.
Wo die Aussagekraft endet
Die Messung ist eine kurze, synthetische Probe mit einem kurzen Prompt, keine Messung deines vollständigen Workloads. Sie belegt keine Ursache für die Veränderungen, keine statistische Signifikanz und keine Aussage über Modellqualität oder Ausfallsicherheit. Direkte und Gateway-Routen werden nicht gegeneinander gerankt; die Tabelle ist deshalb keine Rangliste der Anbieter.
Was du daraus mitnehmen kannst
Für deine eigene Architekturentscheidung ist vor allem wichtig, dass Latenz zwischen Wochen schwankt und sich pro Endpunkt unterschiedlich entwickeln kann. Wenn du Latenz für eine konkrete Anwendung bewerten willst, lohnt sich eine eigene Messung mit deinen Prompts und deiner Last.
Die gemessenen Latenzänderungen
| Endpunkt | Route | Tage je Woche im Paar | TTFT vorher (ms) | TTFT jetzt (ms) | Änderung |
|---|---|---|---|---|---|
| Mistral Small (Mistral) | gateway | 7 | 443,00 | 332,00 | -25,06 % |
| Claude Haiku 4.5 (AWS Bedrock) | direct | 7 | 703,00 | 573,00 | -18,49 % |
| GPT-5 mini (OpenAI) | direct | 7 | 685,00 | 809,00 | +18,10 % |
2026-10-19–2026-10-25 → 2026-10-26–2026-11-01 (UTC).
Abdeckung und Messgrenzen
7 Endpunkte haben ausreichende Tagespaare und unveränderte Modell-/Routenangaben. 0 Endpunkte haben zu wenige Tagespaare; 0 Endpunkte wurden wegen geänderter Modell-/Routenangaben ausgeschlossen.
TTFT misst die Zeit bis zum ersten Inhaltstoken aus einer Lambda in Frankfurt. Verglichen werden die Mediane täglicher Messwerte in zwei abgeschlossenen UTC-Wochen. Es zählen nur Wochentage, für die in beiden Wochen ein Wert vorliegt; je Endpunkt müssen mindestens fünf Tagespaare vorliegen. Der Collector verwirft einen Aufwärmdurchlauf und behält pro Messrunde die schnellere von zwei erfolgreichen Proben. Das ist eine kurze synthetische Probe, keine Messung deines vollständigen Workloads. Direkte und Gateway-Routen werden nicht gegeneinander gerankt. Die beobachteten Unterschiede belegen weder eine Ursache noch statistische Signifikanz, Modellqualität oder Ausfallsicherheit.
i6eal KI-Latenz-Index. Datenstand: 2026-11-02T01:20:59.204Z.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
