Google Vertex AI: der Praxis-Guide für den Mittelstand

Was ist Google Vertex AI?

Vertex AI ist die verwaltete KI-Plattform der Google Cloud. Darüber nutzt du Googles Gemini-Modelle per API, ohne selbst Infrastruktur zu betreiben: Prompt rein, Antwort raus, abgerechnet werden nur die verbrauchten Token. Anfang 2026 hat Google die generative KI unter dem Namen „Gemini Enterprise Agent Platform“ gebündelt – das Produkt heißt weiter Vertex AI, die API bleibt aiplatform.googleapis.com.

Das Besondere gegenüber der direkten Gemini-API (ai.google.dev, per API-Key): Vertex läuft in deinem Google-Cloud-Projekt. Authentifizierung über IAM statt geteiltem Key, Abrechnung über deine bestehende Cloud-Rechnung, SLAs, privates Networking – und die Möglichkeit, die Verarbeitung auf die EU zu beschränken.

Und Vertex ist nicht nur Gemini: Über den Model Garden bekommst du dieselben Enterprise-Bedingungen auch für Partnermodelle – Anthropics Claude, Metas Llama, Mistral und weitere – als verwaltete APIs. Ein Vertrag, eine Rechteverwaltung, viele Modelle.

Warum Vertex AI für den Mittelstand? Das DSGVO-Argument

Die größte Hürde für KI im deutschen Mittelstand ist selten die Technik – es ist der Datenschutz. „Dürfen wir überhaupt Kundendaten an ein US-Modell schicken?“ bremst fast jedes Projekt aus.

Vertex beantwortet das über die Datenresidenz – und hier steckt der entscheidende Punkt im Detail. Google trennt zwei Ebenen: wo Daten ruhen (Speicherung) und wo sie verarbeitet werden (die ML-Verarbeitung, also die eigentliche Inferenz). Für die DSGVO zählt vor allem die Verarbeitung.

Beides steuerst du über den Endpoint. Rufst du einen regionalen Endpoint wie europe-west3 (Frankfurt) oder die EU-Multiregion (eu) auf, bleibt die Verarbeitung deiner Prompts und Antworten in der EU. Google trainiert seine Modelle nicht auf diesen Daten, und der Google-Cloud-DPA nach Art. 28 DSGVO gilt inklusive Standardvertragsklauseln.

Der wichtigste Stolperstein: Der globale Endpoint (global) tut das NICHT. Er routet deine Anfrage dynamisch dorthin, wo gerade Kapazität frei ist – weltweit, ohne Residenz-Garantie. Google empfiehlt den globalen Endpoint inzwischen sogar als Standard für Verfügbarkeit. Für echte EU-Datenresidenz musst du also bewusst einen regionalen oder EU-Endpoint wählen – und prüfen, dass dein Modell dort verfügbar ist. Genau dieser Schalter ist der Kern des Themas.

Der Endpoint entscheidet über die Datenresidenz

AktuellGemini-Modelle mit EU-Datenresidenz

Diese generell verfügbaren (GA) Gemini-Modelle kannst du über einen europäischen regionalen Endpoint (z. B. europe-west3) mit EU-Datenresidenz betreiben. Preise sind On-Demand-Listenpreise pro 1 Mio. Token in US-Dollar (Standard-Kontext bis 200K Token).

Wichtig fürs Budget: Die Gemini-2.5-Familie kostet auf einem regionalen EU-Endpoint dasselbe wie global – kein Aufschlag. Bei den neueren GA-Gemini-3-Modellen führt Google ab dem 1. Juli 2026 dagegen einen Aufpreis für nicht-globale (regionale/EU-)Endpoints ein – rund 10 % über dem globalen Preis. Da DSGVO-Residenz genau einen solchen regionalen Endpoint verlangt, zahlt eine residenzkonforme Gemini-3-Nutzung diesen Aufschlag mit.

Stand: 7. Juli 2026. Preise und Verfügbarkeit ändern sich – maßgeblich ist die Vertex-Preisseite. Sehr große Kontexte (über 200K Token) werden bei Gemini 2.5 Pro höher berechnet. Offizielle Vertex-Preise ↗

AktuellPreisspanne: Kosten je 1 Mio. Token

Was kostet Vertex AI?

Vertex rechnet im Standardfall on-demand ab: Du zahlst pro Token, getrennt nach Input und Output. Kein Grundpreis, kein Leerlauf – schickst du nichts, zahlst du nichts. Eine Zusammenfassung von zwei DIN-A4-Seiten kostet mit Gemini 2.5 Flash Bruchteile eines Cents.

Der angenehme Teil für die EU: Die Gemini-2.5-Familie kostet auf einem regionalen Endpoint in Frankfurt genauso viel wie auf dem globalen – anders als bei manchem Wettbewerber zahlst du für die EU-Verarbeitung keinen Aufschlag. Die Ausnahme sind die neuen GA-Gemini-3-Modelle, für die regionale Endpoints ab Juli 2026 rund 10 % mehr kosten.

Zwei Hebel senken die Rechnung weiter: Context Caching (wiederkehrende Prompt-Teile werden günstiger abgerechnet) und Batch-Verarbeitung (asynchron, rund 50 % günstiger). Für planbare, hohe Last gibt es Provisioned Throughput. Für die meisten Mittelständler gilt: Starte on-demand, miss deinen echten Verbrauch, optimiere erst dann.

AktuellKostenrechner: was kostet das pro Monat?

Schritt für Schritt: dein erster Call auf Vertex AI

So kommst du von null zur ersten Antwort – in etwa 15 Minuten. Für den Standard-Einsatz brauchst du keinen Freischalt-Antrag.

1. 1
   Google-Cloud-Projekt anlegen & Abrechnung aktivieren

   Melde dich in der Cloud Console an, leg ein Projekt an und aktiviere die Abrechnung. Alles Weitere hängt an diesem Projekt.

2. 2
   Vertex-AI-API aktivieren

   Aktiviere die Vertex-AI-API (aiplatform.googleapis.com) – in der Konsole per Klick oder mit gcloud services enable aiplatform.googleapis.com.

3. 3
   EU-Region als Endpoint wählen

   Nutz für Datenresidenz einen regionalen Endpoint wie europe-west3 (Frankfurt) oder die EU-Multiregion (eu) – NICHT „global“. Nur so bleibt die Verarbeitung garantiert in der EU. Prüf, dass dein Modell in der Region verfügbar ist.

4. 4
   Authentifizierung einrichten (ADC)

   Lokal: gcloud auth application-default login. In Produktion: ein Service-Account mit der Rolle „Vertex AI User“ (roles/aiplatform.user); die Client-Bibliothek zieht die Anmeldedaten automatisch (Application Default Credentials) – ein API-Key ist nicht nötig.

5. 5
   SDK installieren & ersten Call abschicken

   pip install google-genai, den Client mit vertexai=True, deinem Projekt und location="europe-west3" erstellen und generate_content aufrufen – siehe Code unten.

from google import genai

# Vertex AI · regionaler Endpoint in Frankfurt = Verarbeitung in der EU
client = genai.Client(
    vertexai=True,
    project="dein-projekt-id",
    location="europe-west3",  # Frankfurt – NICHT "global"
)

response = client.models.generate_content(
    model="gemini-2.5-flash",
    contents="Erklär in einem Satz, was Vertex AI ist.",
)

print(response.text)

Der Schlüssel für die EU-Residenz ist location="europe-west3" (oder die EU-Multiregion) statt "global". Die Authentifizierung läuft über IAM/ADC, nicht über einen API-Key – das ist der Unterschied zur direkten Gemini-API.

Vertex AI, Bedrock, Azure oder direkte API? Eine klare Einordnung

Vertex ist nicht immer die beste Wahl. Die kurze Entscheidungshilfe:

Die Modelle konvergieren, die Plattformen unterscheiden sich in Verträgen, Identitäten und Regionen. Entscheidend ist selten „welches Modell“, sondern „wo bist du schon – und wo bleibt die Verarbeitung?“.

DSGVO-Checkliste für Vertex AI

Damit dein Vertex-Einsatz datenschutzkonform ist, achte auf diese Punkte:

• ✓Regionalen Endpoint (z. B. europe-west3/Frankfurt) oder die EU-Multiregion (eu) nutzen – NICHT den globalen Endpoint. Und prüfen, dass dein Modell in der gewählten Region verfügbar ist.
• ✓Auftragsverarbeitung: Der Google Cloud Data Processing Addendum (Art. 28 DSGVO) gilt inklusive Standardvertragsklauseln für Drittlandtransfers – bestätige, dass Vertex AI als „Covered Service“ gelistet ist.
• ✓Kein Training: Google nutzt deine Prompts und Antworten nicht, um seine Foundation-Modelle zu trainieren (Google Cloud Service Specific Terms).
• ✓Caching & Retention bewusst entscheiden: Gemini cached Eingaben standardmäßig bis zu 24 Stunden. Für Null-Speicherung Caching deaktivieren und Zero Data Retention (ZDR) aktivieren.
• ✓Abuse-Monitoring kennen: Bei Standardmodellen loggt Google nur auffällige Prompts (bis 90 Tage, in deiner Region) – ein Opt-out ist per Formular möglich. Für strengere Vorgaben ZDR und Abuse-Opt-out kombinieren.
• ✓Sicherheit härten: CMEK (eigene Schlüssel), VPC Service Controls und Access Transparency aktivieren; Datenminimierung im Prompt und die KI-Verarbeitung ins Verarbeitungsverzeichnis (ggf. eine DSFA) aufnehmen.

AktuellNeueste Vertex-AI- & Gemini-Neuigkeiten

Was sich zuletzt rund um Vertex AI und Gemini getan hat:

• 3. März 2026Gemini 3.1 Flash-Lite als Public Preview auf Vertex AI — der kosteneffiziente TierQuelle: Google ↗
• 19. Februar 2026Gemini 3.1 Pro als Preview im Model Garden auf Vertex AIQuelle: Google ↗
• 17. Dezember 2025Gemini 3 Flash als Public Preview auf Vertex AIQuelle: Google ↗
• 18. Juni 2025Gemini 2.5 Flash & 2.5 Pro erreichen GA auf Vertex AI; Flash-Lite als PreviewQuelle: Google ↗

Häufige Fragen zu Vertex AI