Azure OpenAI: der Praxis-Guide für den Mittelstand

Was ist Azure OpenAI?

Azure OpenAI ist Microsofts verwalteter Dienst, über den du OpenAIs Sprachmodelle – die GPT-Reihe und die o-Reasoning-Modelle – per API nutzt, ohne selbst Infrastruktur zu betreiben. Du schickst einen Prompt, bekommst eine Antwort und zahlst nur die verbrauchten Token. Anfang 2026 wurde die Plattform in „Microsoft Foundry“ umbenannt; verkauft und abgerechnet wird sie weiterhin über Azure.

Der Unterschied zur direkten OpenAI-API: Es sind dieselben Modelle, aber in Microsofts Enterprise-Umgebung. Die Authentifizierung läuft über Entra ID (früher Azure AD) statt über einen geteilten API-Key, du bekommst SLAs, privates Networking und – der Punkt, um den es hier geht – die Möglichkeit, die Verarbeitung auf die EU zu beschränken.

Für Unternehmen, die ohnehin Microsoft 365 und Azure nutzen, ist das attraktiv, weil alles in dieselbe Welt gehört: gleiche Abrechnung, gleiches Rechtemanagement, derselbe Auftragsverarbeitungsvertrag, den deine Rechtsabteilung längst unterschrieben hat.

Warum Azure OpenAI für den Mittelstand? Das DSGVO-Argument

Die größte Hürde für KI im deutschen Mittelstand ist selten die Technik – es ist der Datenschutz. „Dürfen wir Kundendaten überhaupt an ein US-Modell schicken?“ bremst fast jedes Projekt aus.

Azure beantwortet das über die EU-Datenzone. Legst du dein Deployment als „Data Zone Standard“ in einer EU-Region an, werden Prompts und Antworten ausschließlich innerhalb der EU-Datengrenze verarbeitet. Microsoft nutzt deine Ein- und Ausgaben nicht, um die Modelle zu trainieren, und der Microsoft-DPA (der Auftragsverarbeitungsvertrag nach Art. 28 DSGVO) gilt für Azure-Kunden automatisch.

Wichtig: Ein „Global“-Deployment tut das NICHT. Dort kann die Verarbeitung in jeder Region weltweit stattfinden – nur die ruhenden Daten bleiben in deiner Geografie. Für echte EU-Datenresidenz musst du bewusst ein Data-Zone- oder ein Ein-Region-Deployment wählen. Genau dieser Schalter ist der Kern des Themas.

So bleibt die Verarbeitung in der EU

AktuellModelle mit EU-Datenzone

Diese OpenAI-Modelle kannst du über Azure mit EU-Datenzone (Data Zone Standard in einer EU-Region) betreiben. Preise sind On-Demand-Listenpreise pro 1 Mio. Token in US-Dollar (Global Standard) – die EU-Datenzone kostet dasselbe.

Die günstigeren Mini-/Nano-Modelle (GPT-5.4 mini/nano) sind derzeit nur als Global- bzw. US-Data-Zone-Deployment verfügbar, nicht in der EU-Datenzone – das günstigste EU-residente Modell ist aktuell GPT-5. Und Azures o-Reasoning-Modelle (o3, o4-mini) laufen Ende 2026 aus; prüf vor dem Einsatz den Modell-Lifecycle.

Stand: 7. Juli 2026. Preise und Verfügbarkeit ändern sich – maßgeblich ist die Azure-Preisseite. Offizielle Azure-Preise ↗

AktuellPreisspanne: Kosten je 1 Mio. Token

Was kostet Azure OpenAI?

Azure rechnet im Standardfall on-demand ab: Du zahlst pro Token, getrennt nach Input und Output. Kein Grundpreis, keine Leerlauf-Kosten – schickst du nichts, zahlst du nichts.

Der angenehme Teil für die EU: Ein Data-Zone-Deployment kostet denselben Token-Preis wie Global Standard. Anders als bei manchem Wettbewerber zahlst du für die EU-Verarbeitung keinen Aufschlag – nur die strengste Variante (Verarbeitung in genau EINER Region) liegt etwa 5–10 % höher.

Für planbare, hohe Last bietet Azure „Provisioned Throughput“ (reservierte Kapazität in PTUs). Für die meisten Mittelständler ist das anfangs unnötig: Starte on-demand, miss deinen echten Verbrauch und optimiere erst dann. Eine Zusammenfassung von zwei DIN-A4-Seiten kostet mit GPT-5 Bruchteile eines Cents – spürbar werden die Kosten erst bei Volumen.

AktuellKostenrechner: was kostet das pro Monat?

Schritt für Schritt: dein erster Call auf Azure OpenAI

So kommst du von null zur ersten Antwort – in etwa 15 Minuten. Azure OpenAI ist 2026 self-service; für den Standard-Einsatz brauchst du keinen Freischalt-Antrag mehr.

1. 1
   Azure-Abo & Microsoft Foundry öffnen

   Melde dich mit einem Azure-Abo im Portal oder in Microsoft Foundry (ai.azure.com) an. Für den Standard-Einsatz ist kein Freigabeformular nötig.

2. 2
   Ressource in einer EU-Region anlegen

   Erstelle eine Azure-OpenAI-/Foundry-Ressource und wähl eine EU-Region wie Sweden Central, Germany West Central oder France Central – so liegt die Ressource in der EU-Datengrenze.

3. 3
   Modell als „Data Zone Standard“ deployen

   Wähl im Deployment-Dialog ein Modell (z. B. gpt-5) und den Deployment-Typ „Data Zone Standard“. Gib dem Deployment einen Namen – den übergibst du später als model im Code, nicht den Basis-Modellnamen.

4. 4
   Endpoint + Key holen (oder Entra ID)

   Kopiere Endpoint und einen der beiden Keys aus „Keys and Endpoint“. Sauberer für den produktiven Einsatz: keyless über Entra ID mit der Rolle „Cognitive Services User“ und DefaultAzureCredential.

5. 5
   SDK installieren & ersten Call abschicken

   pip install openai, den Key als Umgebungsvariable setzen und den AzureOpenAI-Client aufrufen – siehe Code unten. Die Antwort kommt strukturiert zurück.

import os
from openai import AzureOpenAI

client = AzureOpenAI(
    api_version="2024-10-21",
    azure_endpoint="https://DEIN-RESOURCE.openai.azure.com",
    api_key=os.environ["AZURE_OPENAI_API_KEY"],
)

# "model" = dein Deployment-Name (Data Zone Standard) – nicht der Basis-Modellname.
response = client.chat.completions.create(
    model="gpt-5-eu",
    messages=[
        {"role": "user", "content": "Erklär in einem Satz, was Azure OpenAI ist."}
    ],
)

print(response.choices[0].message.content)

Der model-Wert ist dein Deployment-Name (Data Zone Standard in einer EU-Region) – nicht der Basis-Modellname. So bleibt die Verarbeitung in der EU.

Azure OpenAI, direkte API oder Bedrock? Eine klare Einordnung

Azure ist nicht immer die beste Wahl. Die kurze Entscheidungshilfe:

Seit April 2026 ist die Microsoft-OpenAI-Lizenz nicht mehr exklusiv – GPT-Modelle gibt es auch auf Bedrock. „Wir brauchen GPT“ bindet dich also nicht mehr automatisch an Azure. Entscheidend ist, wo du schon bist.

DSGVO-Checkliste für Azure OpenAI

Damit dein Azure-OpenAI-Einsatz datenschutzkonform ist, achte auf diese Punkte:

• ✓Deployment-Typ „Data Zone Standard“ (oder ein Ein-Region-Deployment) in einer EU-Region wählen – NICHT „Global Standard“. Nur so bleibt die Verarbeitung garantiert in der EU.
• ✓Auftragsverarbeitung: Der Microsoft-DPA (aka.ms/DPA) gilt für Azure automatisch und enthält die Standardvertragsklauseln – bei Enterprise Agreement / Microsoft Customer Agreement ohne Extra-Schritt.
• ✓Kein Training: Microsoft nutzt deine Prompts und Antworten nicht zum Training der Modelle; Azure OpenAI läuft getrennt von OpenAIs eigenen Diensten.
• ✓Abuse-Monitoring bewusst entscheiden: Standardmäßig können Ein- und Ausgaben bis zu 30 Tage gespeichert werden. Für Null-Speicherung „Modified Abuse Monitoring“ / Zero Data Retention beantragen (i. d. R. EA/MCA).
• ✓Zugriff über Entra ID + Rollen statt geteiltem API-Key; für sensible Workloads Private Link / VNet nutzen.
• ✓Datenminimierung im Prompt und die KI-Verarbeitung ins Verarbeitungsverzeichnis (ggf. eine DSFA) aufnehmen.

AktuellNeueste Azure-OpenAI-Neuigkeiten

Was sich zuletzt rund um Azure OpenAI / Microsoft Foundry getan hat:

• 24. April 2026GPT-5.5 in Microsoft Foundry — Frontier-Modell auf Enterprise-Plattform (~1,05 Mio. Token Kontext)Quelle: Microsoft ↗
• 17. März 2026GPT-5.4 mini & nano — schnelle, günstige Modelle in Microsoft FoundryQuelle: Microsoft ↗
• 11. Dezember 2025GPT-5.2 in Microsoft Foundry — der neue Enterprise-StandardQuelle: Microsoft ↗

Häufige Fragen zu Azure OpenAI