LLMs in Copilot Studio | EU-Modell Mistral Verfügbar!

Microsoft öffnet die Schleusen für externe Large Language Models in der eigenen Infrastruktur. Wer autonome Agenten in Copilot Studio baut, stand bisher oft vor regionalen Compliance-Hürden oder unpassenden Sprachnuancen der Standard-Modelle.

Mit der Integration von Mistral Medium 3.5 wird eine europäische Alternative direkt in das Microsoft-Ökosystem eingepflegt. Das Ziel: Datenverarbeitung in der Europäischen Union und höhere Flexibilität bei komplexen Workflows, ohne zusätzliche Verträge mit Drittanbietern abschließen zu müssen.

Bevor die Konfiguration startet, müssen zwei Bedingungen erfüllt sein. Erstens benötigst Du für jeden zugreifenden Benutzer eine aktive Lizenz für Microsoft 365 Copilot. Zweitens benötigst Du globale Administratorrechte im Tenant für die Aktivierung, da diese Freischaltung weitreichende Auswirkungen auf den Datenabfluss hat.

Die Einrichtung beginnt im zentralen Administrationsportal. Microsoft hat den Opt-in-Prozess bewusst zweistufig gestaltet, damit IT-Abteilungen die Kontrolle über die Datenströme behalten.

Navigiere im Browser zum Microsoft 365 Admin Center.

Klicke auf der Einstellungsseite des Copiloten auf "Alle anzeigen" und wähle den Bereich "KI-Anbieter für andere große Sprachmodelle" aus. In der Liste der verfügbaren Modelle erscheint der Eintrag für Mistral. Nach der Auswahl öffnet sich ein Steuerungsfenster für den Zugriff.

An dieser Stelle musst Du den Nutzungsbedingungen zustimmen. Dies ist ein kritischer Punkt: Durch die Aktivierung verlässt die Datenverarbeitung den von Microsoft verwalteten Compliance-Bereich. Die Standard-Kundenvereinbarungen und der Nachtrag zur Datenverarbeitung (DPA) von Microsoft greifen hier nicht. Stattdessen gelten die Bedingungen von Mistral.

Nach der Zustimmung folgt die Zuweisung der Benutzergruppen. Steuere den Zugriff im Testzeitraum über eine dedizierte Microsoft Entra ID Sicherheitsgruppe, um unkontrollierte Datenflüsse zu vermeiden. Klicke anschließend auf "Anbieter zulassen". Es kann einige Stunden dauern, bis die Änderung im gesamten Tenant aktiv ist.

Die Aktivierung im Tenant reicht nicht aus, um die Modelle in der Entwicklungsumgebung freizuschalten. Die Governance-Struktur verlangt eine explizite Aktivierung für die jeweiligen Power Platform Umgebungen.

Wechsle in das Power Platform Admin Center.

Wähle die gewünschte Umgebung aus, in der Du Agenten entwickeln möchtest. Navigiere in den Einstellungen zum Bereich der generativen Antworten und aktiviere die Option für externe Large Language Models. Erst durch diese Verknüpfung wird die API-Schnittstelle zwischen Copilot Studio und dem Mistral-Modell für Ersteller (Maker) freigeschaltet.

Nachdem das Modell auf Mandantenebene freigeschaltet wurde, steht es allen berechtigten Entwicklern zur Verfügung. Die Zuweisung erfolgt direkt auf Agentenebene, sodass du pro Projekt entscheiden kannst, welches Modell zum Einsatz kommt.

Stelle sicher, dass dein Konto die nötigen Berechtigungen im Environment hat und die Freischaltung aktiv ist, da der Eintrag sonst nicht im Drop-down-Menü erscheint oder deaktiviert ist.

In den Einstellungen des Agenten steht im Drop-down-Menü der Modellauswahl der Eintrag Mistral Medium 3.5 (Experimental) zur Verfügung. Nach der Auswahl nutzt der Agent für alle nachgelagerten Verarbeitungen, wie das Verstehen von Benutzerabsichten oder das Generieren von Antworten, die europäische Modell-Infrastruktur.

Genauso wichtig wie die Aktivierung ist der saubere Rückweg. Entscheidet sich die IT-Abteilung gegen den weiteren Einsatz, etwa nach Abschluss der Testphase oder aufgrund einer geänderten Risikobewertung, sperrst Du den Anbieter zentral im Microsoft 365 Admin Center. Die Sperre wirkt auf Mandantenebene und entzieht damit allen Nutzern und Agenten den Zugriff auf das Modell, unabhängig von einzelnen Power-Platform-Umgebungen.

Navigiere im Microsoft 365 Admin Center erneut zu Copilot, anschließend zu den Einstellungen.

Klicke auf "Alle anzeigen" und öffne den Bereich "KI-Anbieter für andere große Sprachmodelle". Wähle in der Liste den Eintrag Mistral aus und klicke auf "keine Benutzer".

Plane für die Deaktivierung etwas Zeit ein. Wie schon bei der Freischaltung greift die Änderung nicht sofort, sondern kann mehrere Stunden dauern, bis der Dienst für alle Nutzer im Tenant vollständig gesperrt ist. Bestehende Agenten, die das Modell verwenden, verlieren danach den Zugriff und fallen auf das konfigurierte Standardmodell zurück. Prüfe deshalb vor einer produktiven Sperre, ob laufende Agenten von dieser Umstellung betroffen sind, um unerwartete Ausfälle in deinen Workflows zu vermeiden.

Die Architektur verlangt eine kritische Betrachtung. Die Integration von Mistral Medium 3.5 in Copilot Studio bietet Vorteile für europäische Unternehmen. Datenverarbeitungen bleiben bei Nutzung der EU-Regionen lokal, was die Einhaltung rechtlicher Vorgaben erleichtert. Die EU-Verarbeitung ist dabei eine Zusage von Mistral, nicht Teil der Microsoft EU Data Boundarym die rechtliche Prüfung muss sich auf Mistrals Bedingungen stützen.

Dennoch müssen IT-Abteilungen die Risiken abwägen. Da Microsofts vertragliche Garantien bezüglich Datensicherheit und Urheberrechten bei diesem Drittanbieter-Modell erlöschen, liegt die Verantwortung für das Risikomanagement vollständig beim Tenant-Betreiber. Ein unkontrolliertes Freischalten für alle Mitarbeiter öffnet Risiken bezüglich Schatten-KI Tür und Tor.

Ein technischer Aspekt ist die Drosselung. Der Connector unterliegt einem Limit von ca. 300 API-Aufrufen pro Verbindung innerhalb von 60 Sekunden,  bei maximal 50 Verbindungen pro Konto. Für komplexe Unternehmensprozesse mit hoher Benutzerfrequenz kann diese Grenze zum Flaschenhals werden. Da es sich um eine Vorschauversion handelt, gehört dieses Setup in isolierte Testumgebungen. Die feingranulare Steuerung über Microsoft Entra ID Sicherheitsgruppen ist eine administrative Pflichtaufgabe, um die Balance zwischen Innovationsdrang der Fachabteilungen und den Vorgaben der IT-Sicherheit zu wahren.