KI & AI

Azure OpenAI

Overview

Azure OpenAI stellt die Modelle von OpenAI über die Azure-Infrastruktur bereit. Unternehmen nutzen es für Chatbots, Dokumentenanalyse, Zusammenfassungen, Codegenerierung, Embeddings für RAG sowie Bild- und Spracherzeugung. Der frühere Produktname war Azure OpenAI Service.

Organisatorisch gehört Azure OpenAI heute zu Microsoft Foundry (vorher Azure AI Foundry bzw. Azure AI Studio). Die Kategorie „Foundry Models sold by Azure“ umfasst alle Azure-OpenAI-Modelle sowie ausgewählte Modelle anderer Anbieter wie Meta, Mistral AI, DeepSeek oder xAI. Bestehende Azure-OpenAI-Ressourcen lassen sich zu einer Foundry-Ressource hochstufen, Endpunkt und Schlüssel bleiben dabei erhalten.

Die Modellpalette ändert sich schnell: Im Oktober 2026 führt Microsoft unter anderem die GPT-6-Serie, GPT-5.x, die Open-Weight-Modelle gpt-oss, die o-Serie, GPT-4.1, Embedding-Modelle der Reihe text-embedding-3 und gpt-image. GPT-4o ist noch gelistet, für neue Projekte aber nicht mehr erste Wahl. Abzugrenzen ist Azure OpenAI vom direkten OpenAI-API-Vertrag, der nicht über Azure abgerechnet wird und nicht unter Azure-SLA fällt.

How it works

Der Weg vom Modell zur Anwendung:

  1. Im Azure-Abonnement wird eine Foundry-Ressource mit Projekt angelegt.
  2. Ein Modell wird mit einem Bereitstellungstyp ausgerollt, z. B. Global Standard, Data Zone Standard (Verarbeitung innerhalb einer Datenzone wie der EU), Standard (regional), Developer oder Provisioned Throughput.
  3. Anwendungen rufen den Endpunkt über die stabilen v1-Routen (/openai/v1/) auf, bevorzugt mit der Responses API, die die frühere Assistants API ablöst.
  4. Authentifizierung läuft per API-Schlüssel oder besser per Microsoft Entra ID und Azure RBAC, Netzwerkzugriff lässt sich über private Netzwerke einschränken.
  5. Inhaltsfilter (Guardrails) prüfen Ein- und Ausgaben, Tracing und Monitoring laufen über Foundry.

Benefits

  • Abrechnung über das bestehende Azure-Abonnement und Azure-SLA, das vereinfacht Einkauf und Vertragsprüfung
  • Steuerbare Datenverarbeitung über Data-Zone-Bereitstellungen, relevant für DSGVO-Bewertungen
  • Integration in Entra ID, Azure RBAC, private Netzwerke und Azure Policy wie bei anderen Azure-Diensten
  • Ein Endpunkt für OpenAI- und Partnermodelle, Modellwechsel ohne Umbau der Anwendung
  • Support durch Microsoft statt durch einen separaten Anbieter

Practical example

Ein Versicherungsmakler mit 120 Beschäftigten möchte eingehende Schadensmeldungen automatisch zusammenfassen und vorklassifizieren. Die IT stellt ein aktuelles GPT-5-Modell als Data-Zone-Standard-Bereitstellung in der EU bereit, die Anwendung authentifiziert sich per Managed Identity. Eine Logic App übergibt jede Mail an die Responses API und schreibt das Ergebnis ins CRM. Weil Schlüssel entfallen und der Netzwerkzugriff privat ist, besteht das Projekt die interne Datenschutzprüfung ohne Nacharbeit.

Things to keep in mind

  • Modell-Retirements beobachten: Modellversionen werden regelmäßig abgekündigt, Bereitstellungen müssen rechtzeitig umgestellt werden
  • Für personenbezogene Daten Data-Zone- oder regionale Bereitstellungen wählen statt Global Standard und das im Verarbeitungsverzeichnis dokumentieren
  • Entra-ID-Authentifizierung mit Managed Identity statt API-Schlüsseln verwenden
  • Kontingente (Quota) früh prüfen, für neue Modellreihen sind teils Anträge oder höhere Quota-Stufen nötig
  • Neue Projekte direkt in Foundry-Projekten anlegen, hubbasierte Projekte laufen nur noch im klassischen Portal

Licensing & availability

Abrechnung über das Azure-Abonnement: Standard-Bereitstellungen nutzungsbasiert nach Input- und Output-Tokens (bei neueren Modellen mit getrennten Preisen für kurzen und langen Kontext), Provisioned Throughput für reservierte Kapazität. Preview-Modelle sind laut Microsoft nicht für die Produktion gedacht. Einige Modellreihen erfordern höhere Quota-Stufen. Konkrete Preise je Modell und Region auf der Azure-Preisseite prüfen. Stand: Oktober 2026.

Conclusion

Azure OpenAI ist für Microsoft-zentrierte Unternehmen der naheliegende Weg zu OpenAI-Modellen. Plane neue Projekte direkt in Microsoft Foundry und berücksichtige den schnellen Modellwechsel im Betrieb.

Further reading

Related articles