Enterprise-KI mit Power Platform und Azure OpenAI

Die Demo überzeugt, der Connector steht, die Bildschirme leuchten auf. Und dann trifft die Lösung auf echte Nutzer, echte Daten und echte Lasten. Viele KI-gestützte Projekte in der Power Platform scheitern genau an diesem Punkt. Sie bleiben beim Chatbot stehen und bewähren sich nicht im Geschäftsworkflow.

Dieser Artikel zeigt, wie Azure OpenAI sauber mit Power Apps und Dynamics 365 zusammenspielt. Er zeigt auch, welche Sicherheits-, Leistungs- und Governance-Funktionen für professionelle Bereitstellungen nötig sind. Es geht also um weniger Magie und mehr Wissen.

Warum KI-Demos in der Power Platform an der Realität scheitern

Das Muster ist immer dasselbe. Geschäftsanwender sehen einen Vertriebs-Chatbot, der in Sekunden antwortet, oder eine Kundendienst-App, die Tickets wie von Zauberhand sortiert. Der Gedanke liegt nahe: „Das setzen wir gleich in Power Apps um.“ Der Connector funktioniert in der Demo für zwei Personen. Danach tauchen Leistungsprobleme auf, Chatbots beginnen Unsinn zu liefern, oder sensible Kundendaten gelangen versehentlich nach außen.

Schuld daran ist ein hartnäckiger Mythos: KI in die Power Platform zu bringen heiße, einen Connector hinzuzufügen und mit Azure zu verknüpfen. Auf dem Papier sieht das tatsächlich so einfach aus. Der Connector ist aber nur die Einladung zur Architektur-Party. Das eigentliche Ereignis ist zu verstehen, wie die einzelnen Ebenen zusammenwirken und wie fragil sie werden, sobald sie skalieren sollen.

Die Architektur: Vier Akteure hinter jeder Enterprise-KI

In nahezu jedem seriösen KI-Setup auf der Power Platform sind vier Akteure beteiligt.

1. Power Apps oder Dynamics 365: Hier interagieren die Endbenutzer. Die Anwendung löst jede KI-Anforderung aus und sammelt die Eingaben, etwa eine Kundennachricht, ein Umfrageergebnis oder eine Produktbewertung.
2. Power Automate: Power Apps sprechen nicht direkt mit Azure OpenAI. Der Flow erfasst die Daten, bringt sie ins richtige Format und leitet sie weiter.
3. Azure OpenAI Endpunkt: Das ist das „Gehirn“. Es liefert Stimmungsanalysen, Textzusammenfassungen oder generierte Kundenantworten.
4. Azure API Management: Diese Komponente wird gern übersehen, bis etwas explodiert. Sie ist für Sicherheit und Drosselung zuständig.

Was der Flow vor dem KI-Aufruf leistet

Nehmen wir an, ein Benutzer protokolliert in Dynamics 365 ein Verkaufsgespräch. Das löst einen Power Automate Flow aus, der mehr tut, als Daten von A nach B zu schieben. Er kann Text bereinigen, Kontext aus anderen Quellen zusammenführen und Felder mit datenschutzrelevanten Kundendaten maskieren, bevor die Anfrage an Azure OpenAI geht.

Das ist entscheidend. Ist der Flow langsam, weil andere Automatisierungen Ressourcen verbrauchen, summieren sich die Latenzen in der App. Wird die Nutzlast nicht sauber vorbereitet, fehlt also etwa der Kontext einer Produktbewertung oder ist die Formatierung seltsam, liefert der Endpunkt merkwürdige oder sogar halluzinierte Antworten. Ist die vorgelagerte Verkabelung unübersichtlich, hilft auch die beste Intelligenz nichts.

API Management als Türsteher

Während alle von der Intelligenz begeistert sind, fragen zu wenige, wer wie oft Zugriff haben sollte. Azure API Management prüft jede Anforderung, wendet Authentifizierung an und sorgt dafür, dass die Nutzung nicht außer Kontrolle gerät. Ohne Drosselungsrichtlinien kann eine defekte App tausende Anfragen pro Stunde absetzen. Sie überlastet dann den Endpunkt oder verursacht eine horrende Azure-Rechnung. Zusätzlich wird protokolliert, was passiert ist. Wenn etwas kaputtgeht, gibt es einen Prüfpfad, dem man folgen kann.

Skalierung: Wenn aus 10 Nutzern 10.000 werden

Demos sind für eine Handvoll Benutzer und nahezu perfekte Netzwerkbedingungen optimiert. Im Unternehmen gelten dagegen echte SLAs, Datenschutzanforderungen und Leistungsschwellen.

Ein Beispiel: Eine Power App für Vertriebsfeedback mit integrierter Stimmungsanalyse läuft mit zehn Personen reibungslos und liefert Ergebnisse in unter einer Sekunde. Steigt die Zahl nach einer E-Mail-Kampagne oder einer Fusion auf 10.000, treten Wartezeiten von 30 Sekunden oder Fehler auf. Möglicherweise lässt sich sogar die Hälfte der Feedback-Daten nicht mehr verarbeiten, weil die Nutzlast die Grenzwerte von Azure überschreitet oder die Sicherheitsrichtlinien im API Management nie angepasst wurden. Statt dem Vertrieb zu helfen, blockiert die KI-Pipeline ihn, und der Helpdesk ist nicht begeistert.

Wer nur den Connector versteht, riskiert Stabilität und Sicherheit. Den Unterschied zwischen einem Bot in der Sandbox und einer unternehmensfähigen Lösung macht das Verständnis des Gesamtsystems. Dazu gehört, wie Power Apps die Orchestrierung auslösen, wie Flows Daten verarbeiten und absichern, wie KI-Endpunkte sie interpretieren und wie API Management als Leitplanke wirkt.

KI richtig konfigurieren: Stimmungsanalyse, Zusammenfassung und Textgenerierung

Derselbe Endpunkt kann negative Stimmung erkennen, eine E-Mail-Kette zusammenfassen oder eine Produktbeschreibung verfassen. Daraus entsteht leicht die Annahme, man müsse nur die Prompts austauschen. Tatsächlich erfordert jeder Anwendungsfall einen eigenen Ansatz. Plug-and-play funktioniert hier nicht.

Stimmungsanalyse: der einfache Einstieg

Wenn Dynamics 365 Kundenbeschwerden kennzeichnen soll, ist die Stimmungsanalyse der naheliegende erste Anwendungsfall. Die Eingaben sind kurz, die Antworten schnell, die Kosten gering, und es muss kaum Kontext nachverfolgt werden. Power Automate muss nur ein oder zwei Sätze plus einen passenden Prompt übergeben. Solche Abläufe sind leicht zu verwalten, leicht zu drosseln und müssen fast nie neu geschrieben werden.

Zusammenfassungen: Die Eingabe entscheidet

Wenn Manager Besprechungsnotizen einfügen und binnen Sekunden eine stimmige Zusammenfassung erwarten, muss der Prompt prägnant und im Ton passend formuliert sein. Ist die Nutzlast zu umfangreich oder der Quelltext zu unstrukturiert, beginnt das Modell zu paraphrasieren statt zusammenzufassen. Es kann sogar Details halluzinieren, die nie stattgefunden haben. Hier ist wieder Power Automate gefragt: Signaturen entfernen, Formatierung bereinigen und lange Dokumente gegebenenfalls in Abschnitte aufteilen, bevor das Modell arbeitet.

Textgenerierung und Klassifizierung im großen Maßstab

Richtig anspruchsvoll wird es bei individuellen E-Mail-Antworten oder der Kategorisierung jedes Support-Tickets nach Problemtyp. Läuft ein solcher Flow mit tausenden Eingaben, hat das wenig mit der Demo zu tun. Der Flow muss riesige Datensätze durchlaufen, der Endpunkt wird mit Anfragen überflutet, der Durchsatz sinkt, und die Azure-Rechnung steigt.

Die Stimmungsanalyse kostet nur Bruchteile eines Cents pro Anforderung. Umfangreiche Textgenerierung erhöht dagegen die Komplexität, verarbeitet hunderte Token und braucht länger für die Antwort. Dazu kommen benutzerdefinierte Anweisungen, etwa ein anderer Ton für einen anderen Kunden. Prompt Engineering ist dabei mehr als bessere Anweisungen zu tippen. Es gleicht eher dem Optimieren eines Suchalgorithmus: testen, bizarre Ergebnisse erhalten, neu schreiben. Jede Variation wirkt sich auf Zeit-, Kosten- und Sicherheitsprofil des Workflows aus.

Azure API Management: Sicherheit für Ihre KI-Endpunkte

Viele KI-Demos behandeln Sicherheit wie ein Kontrollkästchen am Ende. Sobald ein Pilotprojekt in die Produktion geht, zeigen sich die Risiken. Der Endpunkt ist dann ein potenzielles Fenster zu allem, was die App offenlegt. Gelangt ein API-Schlüssel in falsche Hände, etwa über ein Skript oder einen Testablauf, kann damit jemand Prompts senden, Antworten abrufen und die Nutzung hochtreiben. Auch ohne böswillige Akteure kann eine falsch konfigurierte App, die denselben Datensatz wiederholt sendet, den Endpunkt dauerhaft belasten. Die Folgen sind Governance-Probleme, explodierende Kosten und je nach Datenlage echte Compliance-Risiken.

API Management leistet, was Power Automate und Connectoren allein nicht können:

• Es erzwingt Authentifizierung und Autorisierung bei jeder Anforderung, nicht nur dort, wo jemand daran gedacht hat, sie zu kodieren.
• Es begrenzt die Zahl der Anfragen, die den Endpunkt erreichen. Ein einzelner Entwicklerfehler oder ein außer Kontrolle geratenes Skript gefährdet so weder Budget noch Ruf.
• Es führt detaillierte Protokolle darüber, wer wann auf was zugegriffen hat.

Ein Vorfall aus der Praxis

Eine Organisation führte einen KI-Klassifizierungsflow für Kunden-E-Mails in Dynamics 365 ein und übergab den API-Schlüssel an Power Automate. Der Schlüssel landete in einem freigegebenen Dokumentationsordner. Ein eifriges, aber ungeschultes Teammitglied baute versehentlich eine rekursive Schleife in seine Test-App ein. Binnen weniger Stunden trafen tausende Aufrufe den Endpunkt, viele davon mit denselben wenigen Datensätzen. Die Azure-Rechnung stieg stark, und erst das Durchforsten der Protokolle zeigte, was passiert war. Am schlimmsten war die Ungewissheit, ob sensible Informationen an der falschen Stelle gelandet waren. Mit API Management hätte die Schleife früh einen Fehler wegen Ratenbegrenzung ausgelöst, und bessere Protokollierung hätte die Flut sofort sichtbar gemacht.

Richtlinien als Sicherheitsnetz

• Ratenbegrenzung: zum Beispiel eine maximale Zahl von Zugriffen pro Minute und Benutzer.
• IP-Beschränkung: nur Anforderungen von bekannten Power-Plattform-Gateways zulassen.
• Header oder Token: Für Organisationen mit strengen Compliance-Vorgaben lassen sich Kennungen verlangen, die für den eigenen Geschäftsprozess eindeutig sind. Zufälliger Zugriff von außen wird dadurch leicht blockierbar.

Die Balance ist wichtig. Sicherheitsrichtlinien müssen Missbrauch verhindern, dürfen den normalen Betrieb aber nicht ausbremsen. Ist die Drosselung zu streng, scheitern legitime Anfragen, und Nutzer versuchen es mit Umgehungen, indem sie dieselben Daten immer wieder senden. Überwachung und Analyse in API Management helfen, Nutzungsmuster und fehlgeschlagene Aufrufe zu erkennen und Richtlinien anzupassen, bevor Nutzer etwas merken. Zugleich sehen Sie, welche Workflows echten Mehrwert liefern und welche grundlos Kapazität verbrauchen.

Governance: Kosten, Compliance und Kontrolle der KI

Governance-Lücken zeigen sich meist nach dem Erfolg. Eine App wird über Nacht zum Lieblingstool, die Kosten steigen, und niemand weiß mehr genau, wer wofür verantwortlich ist. Dann wirft jemand einen Blick auf die Azure-Rechnung oder bekommt eine Nachricht von Infosec. Offen bleiben Fragen wie diese: Wer kontrolliert den Zugriff auf die Azure OpenAI Endpunkte? Wie viele Anfragen kommen aus welcher Power App, und sind sie nötig? Wo endet das Experiment, und wo beginnt Automatisierung, die das Budget auffrisst?

Kosten im Griff behalten

Azure zählt jeden Token, jeden API-Aufruf und jedes Gigabyte an Daten. Ohne Nachverfolgung steigen die Kosten unbemerkt, zumal Citizen Developer oft nicht wissen, dass ihr Flow den KI-Endpunkt tausendmal am Tag aufruft. Wer das ignoriert, riskiert, dass jemand das Projekt stoppt oder die Geschäftsleitung das Vertrauen in die KI-Initiative verliert.

Azure Cost Management bietet Dashboards, Warnungen und Ausgabenobergrenzen. Schwellenwerte setzen, wöchentliche Nutzungsspitzen beobachten und rechtzeitig pausieren muss jedoch weiterhin jemand. Eine einfache und wirksame Maßnahme ist das Markieren (Tagging) aller Ressourcen, also von KI-Endpunkten, Flows und einzelnen Power Apps. So lassen sich Ausgaben pro Team oder Geschäftsbereich nachverfolgen. Läuft eine Automatisierung nach dem Ende eines Pilotprojekts weiter, fallen markierte Ressourcen auf.

Compliance nicht vergessen

Auch mit API Management bleiben Fragen offen: Welche Daten werden gesendet, wie lange werden sie gespeichert, und wo landen Kopien? Wurden personenbezogene Daten maskiert, bevor der Text eines Support-Tickets an Azure OpenAI ging? Gibt es Aufzeichnungen darüber, wer auf welche Inhalte zugegriffen hat? In regulierten Branchen kann ein einziger Verstoß Projekte wochenlang lahmlegen, etwa wenn vertrauliche Daten ohne Filterung zur Zusammenfassung geschickt wurden. Selbst in weniger regulierten Umgebungen wird die IT nervös, wenn Daten unkontrolliert in der Cloud kursieren.

Das Center of Excellence Starter Kit

Auf Seiten der Power Platform ist das Center of Excellence Starter Kit das, was einer KI-Kommandozentrale am nächsten kommt. Es durchsucht den Mandanten nach Flows, benutzerdefinierten Connectoren, Apps und Bots und erstellt ein Inventar. Die IT kann damit Nutzungsanalysen einrichten, bei verdächtigen Mustern Warnungen senden und Citizen Developer an interne Best Practices erinnern. Das Kit liefert außerdem Vorlagen für eingeschränkte Bereitstellung, löst Überprüfungen für Apps mit hohem Risiko aus und kann Richtlinien durchsetzen, indem es Flows außerhalb der Compliance-Schutzmaßnahmen anhält oder herunterfährt.

Häufige Fehler und Stolpersteine

• Den Connector für die Lösung halten: Er ist nur der Anfang. Ohne Verständnis für Flow, Endpunkt und API Management geraten Stabilität und Sicherheit in Gefahr.
• Alle KI-Aufgaben gleich behandeln: In einem Praxisfall wurde ein Flow zur Ticket-Priorisierung auf allgemeine Textgenerierung ausgelegt statt auf kurze Klassifizierung. Der Endpunkt analysierte den gesamten Ticketverlauf und schrieb jedes Mal mehrabsätzige Entwürfe. Die Kosten stiegen über Nacht, die Workflows wurden langsamer, und die KI erfand Informationen. Die Ursache fand das Team erst nach stundenlanger Untersuchung in Einstellungen von Power Automate und Endpunkt.
• Schlechte Nutzlasten: Unstrukturierter oder zu langer Text führt zu Halluzinationen und Paraphrasen.
• API-Schlüssel offen herumreichen: Wie im Vorfall mit dem freigegebenen Dokumentationsordner.
• Keine Drosselung oder eine zu strenge Drosselung: Das Erste öffnet Kosten und Missbrauch Tür und Tor, das Zweite treibt Nutzer zu Umgehungen.
• Governance als einmaligen Schritt sehen: Modelle, Geschäftslogik und Datenschutzregeln ändern sich ständig, daher sind regelmäßige Überprüfungen nötig.

Praktische Takeaways

• Denken Sie in vier Ebenen: Power Apps/Dynamics 365, Power Automate, Azure OpenAI Endpunkt und Azure API Management.
• Bereiten Sie Daten im Flow auf: bereinigen, Kontext ergänzen, sensible Felder maskieren und lange Texte aufteilen.
• Setzen Sie für schnelle Aufgaben wie Klassifizierung oder Stimmungsanalyse das kleinste Modell ein, das die Aufgabe erledigt.
• Begrenzen Sie bei umfangreicher Textgenerierung die maximale Token-Anzahl und drosseln Sie die Zugriffshäufigkeit.
• Legen Sie Nutzungskontingente für Power Automate Flows fest und überwachen Sie Anfragen und Token im Azure-Portal.
• Nutzen Sie API Management für Authentifizierung, Ratenbegrenzung, IP-Beschränkung und Protokollierung.
• Markieren Sie alle Ressourcen und setzen Sie Budgets oder weiche Obergrenzen über Azure Cost Management.
• Gehen Sie bei Machbarkeitsstudien schrittweise vor und überprüfen Sie Endpunktzugriffe regelmäßig.
• Dokumentieren Sie, welche Datenflüsse welche Daten senden und warum.
• Setzen Sie das Center of Excellence Starter Kit für Inventar, Nutzungsanalysen und Überprüfungen ein.

Fazit

Enterprise-KI auf der Power Platform entscheidet sich nicht an der Demo, sondern an Architektur, Sicherheit und Governance. Wer die Ebenen versteht, den Endpunkt mit API Management schützt und Kosten sowie Datenflüsse im Blick behält, hält den Betrieb am Laufen und macht Kosten vorhersehbar. Mit solider Governance wächst eine KI-Funktion nachhaltig, statt unter Druck zu versagen, und IT- und Unternehmensleitung gewinnen das Vertrauen, weiter zu experimentieren und Neues zu entwickeln.