Die Vier-Ebenen-Architektur von Microsoft Agent 365 meistern

Von Mirko Peters · 2026-08-28

Willkommen zurück, liebe Podcast-Hörerinnen und -Hörer und Technikbegeisterte! Wenn Sie je das Gefühl hatten, Ihre KI-Strategie für das Unternehmen drehe sich im Kreis, weil immer nur einfache Prototyp-Chatbots entstehen, die der realen Komplexität des Geschäfts nicht gewachsen sind, sind Sie damit definitiv nicht allein…

Automatisch mit KI aus dem Originalbeitrag übersetzt. Englisches Original lesen

Willkommen zurück, liebe Podcast-Hörerinnen und -Hörer und Technikbegeisterte! Wenn Sie je das Gefühl hatten, Ihre KI-Strategie für das Unternehmen drehe sich im Kreis, weil immer nur einfache Prototyp-Chatbots entstehen, die der realen Komplexität des Geschäfts nicht gewachsen sind, sind Sie damit definitiv nicht allein. Lange Zeit behandelten Organisationen künstliche Intelligenz als neuartige Oberfläche, als simples Frage-und-Antwort-Feld, das man auf eine SharePoint-Website oder ein Kundenportal setzte. Doch die Arbeitswelt hat sich grundlegend verändert. Wir chatten nicht mehr nur mit statischen Sprachmodellen, sondern entwickeln autonome, zustandsbewusste Geschäftssysteme in Unternehmensqualität, die Aufgaben koordinieren, mehrstufige Workflows ausführen und sicher mit internen und externen Datenbanken interagieren. Damit das gelingt, ohne im operativen Chaos zu versinken, brauchen Sie einen strukturierten, robusten Bauplan. Dieser Bauplan heißt Microsoft Agent 365. In diesem ausführlichen Blogbeitrag schauen wir uns die Architektur an, die skalierbare Intelligenz im Unternehmen möglich macht. Dabei zeigen wir, wie Sie aufhören, isolierte Bots zu bauen, und stattdessen belastbare, produktionsreife Laufzeitumgebungen aufbauen. Wenn Sie die Audioperspektive und praxisnahe Einblicke zu genau diesem Paradigmenwechsel hören möchten, hören Sie unbedingt unsere begleitende Podcast-Folge: Microsoft AI Agent Runtimes: Beyond Enterprise Chatbots.

Agent 365 und das Vier-Ebenen-Modell

Was ist Agent 365

Agent 365 bietet Ihnen eine einheitliche Plattform, um KI-Agenten im großen Maßstab zu erstellen und zu betreiben. Sie gehen über einfache Chatbots hinaus und erstellen Agenten, die als sichere, verwaltete Identitäten in Ihrer Organisation agieren. Microsoft hat Agent 365 entwickelt, damit Sie Agent-Lebenszyklen verwalten, Sicherheit durchsetzen und Compliance sicherstellen können. Für die Erstellung von Agenten, die zu Ihren Geschäftsanforderungen passen, stehen Low-Code-Tools oder Entwickler-SDKs zur Verfügung. Die Plattform integriert Microsoft Entra für die Identität, Copilot für die Orchestrierung und Microsoft Foundry für die Ausführung zur Laufzeit.

Tipp: Agent 365 behandelt jeden Agenten als erstklassige Identität. Das bedeutet, dass Sie Agenten genauso steuern, prüfen und verwalten können wie Benutzer.

Die folgende Tabelle zeigt, worin sich Agent 365 von anderen Plattformen unterscheidet:

Überblick über die vier Ebenen

Agent 365 nutzt eine Vier-Ebenen-Architektur, um Agenten zu strukturieren und zu verwalten. Dieser Aufbau hilft Ihnen, Ihre Agentensysteme zu skalieren und instand zu halten. Jede Ebene hat eine klar definierte Rolle in der Laufzeitarchitektur.

Experience-Ebene

Die Interaktion mit Agenten erfolgt über die Experience-Ebene. Diese Ebene verbindet Agenten mit Benutzern in Apps wie Teams, Outlook oder benutzerdefinierten Portalen. Sie verarbeitet Benutzereingaben und zeigt die Antworten der Agenten an. Sie können diese Ebene an Ihre Geschäftsprozesse anpassen.

Agent-Ebene

Die Agent-Ebene enthält die Intelligenz jedes einzelnen Agenten. Hier legen Sie fest, was der Agent weiß und wie er handelt. Sie können Fähigkeiten hinzufügen, Datenquellen anbinden und die Logik definieren. Diese Ebene unterstützt sowohl Low-Code- als auch Pro-Code-Ansätze, sodass Sie Agenten bauen können, die reale Geschäftsprobleme lösen.

Runtime-Ebene

Die Runtime-Ebene steuert, wie Agenten ausgeführt werden und Aufgaben koordinieren. Sie stellt die Laufzeitarchitektur bereit, mit der Agenten Aktionen ausführen, Zustände verwalten und sich von Fehlern erholen. Sie erhalten horizontale Skalierbarkeit und hohe Zuverlässigkeit. Die zweistufige Architektur innerhalb der Runtime trennt Koordination von Ausführung, was Aktualisierungen und Fehlersuche erleichtert.

Governance-Ebene

Die Governance-Ebene sorgt dafür, dass Ihre Agenten sicher und compliant arbeiten. Sie steuern den Zugriff, legen Richtlinien fest und protokollieren jede Aktion. Microsoft nutzt Entra und Defender, um Zugriff nach dem Least-Privilege-Prinzip durchzusetzen und die Aktivität der Agenten zu überwachen. Sie können Prüfprotokolle einsehen und Dashboards nutzen, um die Leistung der Agenten zu prüfen.

Hinweis: Die vierschichtige Architektur unterstützt die Integration mit bestehenden Systemen, externen Diensten und individuellen Funktionen. Das gibt Ihnen Flexibilität und Kontrolle.

Rolle des Foundry Agent Service

Der Foundry Agent Service bildet die Laufzeitarchitektur für Ihre Agenten. Er verbindet Agenten, damit sie Aufgaben delegieren und gemeinsam arbeiten können. Sie können komplexe Workflows steuern, Zustände verwalten und sich von Fehlern erholen. Microsoft Foundry bietet Ihnen eine solide Grundlage für den Aufbau zuverlässiger, skalierbarer Agentensysteme.

Sie profitieren von einer einheitlichen Plattform, die Registry, Zugriffssteuerung, Telemetrie und Interoperabilität vereint. So lassen sich Agenten im gesamten Unternehmen einfach erstellen, bereitstellen und verwalten.

Laufzeitumgebungen mit dem Agent Framework erstellen

Planung und Anforderungen

Anwendungsfälle und Stakeholder

Sie beginnen mit dem Aufbau von Laufzeitumgebungen, indem Sie Ihre Anwendungsfälle und Stakeholder identifizieren. Sie müssen den Unterschied zwischen dem Erstellen und dem Betrieb von Agenten verstehen. Erstellen bedeutet, Code zu schreiben, Agentendefinitionen festzulegen und Dokumentation zu erstellen. Betreiben bedeutet, Laufzeitagenten bereitzustellen, die mit Benutzern interagieren und Tools in realen Workflows verwenden.

• Definieren Sie klare geschäftliche Probleme, die Agenten lösen sollen.
• Ermitteln Sie Stakeholder, die Agenten nutzen, verwalten oder überwachen.
• Erfassen Sie die Workflows, die Agenten automatisieren oder koordinieren sollen.
• Holen Sie Feedback von Stakeholdern ein, damit die Agentendefinitionen den tatsächlichen Anforderungen entsprechen.

Sie entwickeln einen Agenten, indem Sie den Einfluss berücksichtigen, den er auf Ihre Organisation haben wird. Dieser Schritt legt das Fundament für die Agentenentwicklung und den Laufzeitbetrieb.

Toolauswahl

Sie wählen Tools aus, die zu Ihren Zielen für die Agentenentwicklung passen. Das Microsoft Agent Framework bietet eine Reihe von Optionen für den Aufbau von Laufzeitumgebungen. Für einfache Workflows können Sie Low-Code-Tools verwenden, für fortgeschrittene Agentendefinitionen Entwickler-SDKs.

• Wählen Sie das Microsoft Agent Framework für eine skalierbare Agentenentwicklung.
• Verwenden Sie das Foundry Toolkit für die Orchestrierung und Bereitstellung von Laufzeitagenten.
• Wählen Sie Tools, die modulare Workflows und einfache Integration unterstützen.
• Berücksichtigen Sie die Bereitstellungsoption entsprechend Ihrer Architektur und Ihren geschäftlichen Anforderungen.

Tipp: Das Microsoft Agent Framework lässt sich für Versionskontrolle und Zusammenarbeit in GitHub integrieren. Das hilft Ihnen, Agenten-Artefakte zu verwalten und die Konsistenz über alle Workflows hinweg zu wahren.

KI-Agenten entwerfen

Skill-First-Blueprint

Sie entwerfen Agenten mit einem Skill-First-Blueprint. Dieser Ansatz ermöglicht es Ihnen, wiederverwendbare Agenten-Skills für mehrere Agenten zu erstellen. Wenn Sie einen Skill aktualisieren, erhalten alle Agenten, die diesen Skill verwenden, das Update. Das reduziert Konventionsabweichungen und verbessert die Wartbarkeit.

Sie definieren Agenten-Skills als modulare Komponenten. So bleiben Agentendefinitionen konsistent und lassen sich einfach verwalten. Sie erstellen Workflows, die sich an veränderte geschäftliche Anforderungen anpassen.

Modulare Architektur

Mit einer modularen Architektur zerlegen Sie Agentendefinitionen in kleinere, rollenspezifische Komponenten. Das erhöht die Skalierbarkeit und macht Workflows leichter nachvollziehbar. Integrieren Sie Observability-Tools früh, um Leistung und Verhalten der Agenten zu überwachen.

Sie erstellen Workflows, die Human-in-the-Loop-Feedback und iterative Optimierung unterstützen. So entwickeln sich Laufzeitagenten weiter und verbessern sich im Zeitverlauf.

Agenten programmieren und paketieren

Verwendung des Agent Framework SDK

Sie nutzen das Microsoft Agent Framework SDK, um Agenten zu programmieren und zu paketieren. Sie halten sich an bewährte Methoden, um Zuverlässigkeit, Wartbarkeit und Skalierbarkeit Ihrer Workflows sicherzustellen.

1. Beginnen Sie mit dem Skill „OpenSpec propose“, um einen Implementierungsplan zu erstellen.
2. Delegieren Sie Programmieraufgaben an den Coding-Agenten, sobald der Plan feststeht.
3. Testen Sie den Code funktional und prüfen Sie kritische Codepfade gründlich.
4. Verwenden Sie benutzerdefinierte UI-Komponenten als externe Abhängigkeiten und konzentrieren Sie sich dabei auf die öffentliche API.
5. Nutzen Sie Git- und GitHub-Kenntnisse für Versionskontrolle und Zusammenarbeit.

• Erstellen Sie einen Design-Skill, um den Markenstil und die Konsistenz der Komponenten zu wahren.
• Verhindern Sie Abweichungen vom Gesamtdesign, um die Benutzererfahrung zu verbessern.
• Stellen Sie eine qualitativ hochwertige UI-Codegenerierung sicher, die auf die Designvorgaben abgestimmt ist.

Sie verpacken Agent-Artefakte für die Bereitstellung. Sie pflegen Agent-Definitionen und Workflows in versionskontrollierten Repositories.

Containerisierung für Foundry

Sie nutzen Containerisierung, um die Bereitstellung und Skalierung von Runtime-Agenten zu vereinfachen. Foundry verwaltet die zugrunde liegende Infrastruktur, sodass Sie sich auf die Agent-Logik und Workflows konzentrieren können.

• Containerisierung ermöglicht es Ihnen, sich auf die Agent-Logik statt auf die Infrastrukturverwaltung zu konzentrieren.
• Foundry automatisiert Bereitstellung, Skalierung und Verwaltung von Containern und steigert so die Effizienz.
• Integrierte Skalierungsfunktionen vereinfachen die Ressourcenzuweisung.
• Die Isolation, die Container bieten, erhöht die Sicherheit von Agenten.

Die Wahl der Bereitstellungsoption richtet sich nach Ihrer Architektur und Ihren geschäftlichen Anforderungen. Microsoft Foundry vereinfacht die Erstellung von Runtimes und die Bereitstellung von Agenten. So lassen sich Workflows und der Betrieb von Runtime-Agenten leichter verwalten.

Testen und Validierung

Testen und Validierung sind wesentliche Schritte, wenn Sie das Agent-Framework für die Erstellung von Runtimes verwenden. Stellen Sie sicher, dass Ihre Agenten wie erwartet funktionieren, bevor Sie sie bereitstellen. Dieser Prozess hilft Ihnen, Probleme frühzeitig zu erkennen, und stellt sicher, dass Ihre Agenten auch in realen Szenarien gut funktionieren.

Unit- und Integrationstests

Beginnen Sie damit, Unit-Tests für jeden Skill und jede Funktion Ihres Agenten zu erstellen. Unit-Tests prüfen, ob einzelne Bestandteile Ihres Agent-Framework-Codes korrekt funktionieren. Integrationstests überprüfen anschließend, ob die verschiedenen Bestandteile Ihres Agenten wie vorgesehen zusammenarbeiten. Entwickeln Sie umfassende Testsuiten, die sowohl Standardfälle als auch Randfälle abdecken.

Sie können außerdem Benchmark-Datasets verwenden, um Fortschritte zu messen und Schwachstellen aufzudecken. Simulationen ermöglichen es Ihnen, Agentenentscheidungen und Ergebnisse in einer sicheren Umgebung nachzuverfolgen. Metriken zu Sicherheit und Compliance schützen Ihre Organisation vor Risiken.

Tipp: Nehmen Sie automatisierte agentische Evaluierungen immer in Ihren Agent-Framework-Workflow auf. Diese Prüfungen helfen Ihnen, eine hohe Qualität sicherzustellen, bevor Sie zur nächsten Phase übergehen.

Benutzerakzeptanz

Benutzerakzeptanztests (UAT) sind der letzte Schritt vor der Bereitstellung. Sie laden echte Benutzer ein, in einer kontrollierten Umgebung mit Ihrem Agenten zu interagieren. UAT stellt sicher, dass Ihre Agent-Framework-Lösung die Anforderungen der Benutzer erfüllt und in realen Szenarien gut funktioniert.

• UAT prüft, ob Ihr Agent auf die Geschäftsziele und die Workflows der Benutzer abgestimmt ist.
• Es bestätigt, dass alle kritischen Workflows unter normaler Nutzung korrekt funktionieren.
• UAT hilft Ihnen sicherzustellen, dass die Benutzeroberfläche intuitiv und reaktionsschnell ist.
• Indem Sie Probleme vor der Bereitstellung erkennen, reduziert UAT Risiken und verbessert die Zuverlässigkeit.

Sie sollten während der UAT immer Feedback von Benutzern einholen. Dieses Feedback hilft Ihnen, Ihren Agenten zu verbessern und sicherzustellen, dass er einen Mehrwert für Ihre Organisation liefert.

Bereitstellung mit Foundry

Nachdem Sie Tests und Validierung abgeschlossen haben, gehen Sie mit Microsoft Foundry zur Bereitstellung über. Das Agent-Framework und Foundry arbeiten zusammen, um diesen Prozess zu optimieren. So wird die Verwaltung der Erstellung von Runtimes im großen Maßstab einfacher.

CI/CD-Integration

Continuous Integration und Continuous Deployment (CI/CD) sind zentrale Bestandteile moderner Agent-Framework-Workflows. CI/CD-Pipelines automatisieren das Erstellen, Testen und Veröffentlichen Ihrer Agenten. Dieser Ansatz hilft Ihnen, Fehler frühzeitig zu erkennen, und stellt sicher, dass Ihre Agenten stets produktionsreif sind.

• Die CI/CD-Integration validiert Ihre Agent-Spezifikationen vor dem Zusammenführen von Änderungen. Dieser Schritt verhindert Produktionsfehler, die durch Verstöße gegen Spezifikationen entstehen.
• Die Pipeline prüft, ob der KI-generierte Code den vereinbarten Spezifikationen entspricht, und verringert so das Risiko von Ausfällen in der Produktion.
• CI/CD verwaltet die Annahmen zur Infrastruktur und stellt sicher, dass sich Ihr Agent-Framework-Code in der Produktionsumgebung korrekt verhält.

Sie können Ihre CI/CD-Pipeline so einrichten, dass sie bei Codeänderungen startet. Die Pipeline erstellt Ihren Agenten, führt Tests aus und bewertet die Leistung, bevor sie ihn in die nächste Umgebung überführt.

Produktionsreife

Wenn Sie mit Foundry bereitstellen, gehen Sie schrittweise vor, damit Ihr Agent produktionsreif ist. Die folgende Tabelle zeigt die empfohlenen Schritte:

Sie sollten Ihre Agenten nach der Bereitstellung immer überwachen. Foundry stellt Werkzeuge für Observability bereit, mit denen Sie die Leistung Ihrer Agenten nachverfolgen und Compliance sicherstellen können. Dieser schichtenweise Ansatz hilft Ihnen, hohe Standards bei Qualität und Sicherheit zu halten.

Hinweis: Wenn Sie diese Schritte befolgen, können Sie Agenten mit Zuversicht erstellen, testen und bereitstellen. Das Agent-Framework und Microsoft Foundry stellen Ihnen die Werkzeuge bereit, die Sie für erfolgreiche Laufzeitumgebungen und Bereitstellungen in jedem Unternehmensumfeld benötigen.

Betrieb und Verwaltung von Laufzeit-Agenten

Benutzerinteraktion

Integration der Erfahrungsebene

Sie interagieren mit einem Laufzeit-Agenten über die Erfahrungsebene. Diese Ebene verbindet Sie mit dem Agenten über vertraute Werkzeuge wie Microsoft Teams, Outlook oder individuelle Webportale. Die Erfahrungsebene erfasst Ihre Eingaben und liefert Antworten in Echtzeit. Sie unterstützt viele Arten von Interaktionen, darunter Text, Sprache und Bilder. Dadurch können Sie mit Agenten so arbeiten, wie es zu Ihren Anforderungen passt.

Die Erfahrungsebene leitet Nachrichten nicht nur weiter. Sie erkennt Ihre Absicht und übergibt sie zur Ausführung an die agentische Ebene. Sie sehen dynamische Benutzeroberflächen und Visualisierungen, mit denen Sie Aufgaben genehmigen oder Probleme eskalieren können. Die Erfahrungsebene ermöglicht außerdem, dass Agenten selbst Gespräche mit Ihnen beginnen und personalisierte Vorschläge oder Erinnerungen anbieten. Sie erhalten auf allen Geräten und Kanälen ein einheitliches Erlebnis.

Diese Tabelle zeigt die wichtigsten Funktionen der Erfahrungsebene:

Verarbeitung von Eingaben

Wenn Sie eine Nachricht senden oder eine Anfrage stellen, verarbeitet der Laufzeit-Agent Ihre Eingabe mithilfe fortgeschrittener Muster. Je nach Workflow können Ihnen unterschiedliche Interaktionsmuster begegnen. Manche Agenten nutzen ein Supervisor-Muster, bei dem ein Agent mehrere Worker-Agenten steuert. Andere verwenden eine sequenzielle Orchestrierung, bei der Informationen in einer festen Reihenfolge von einem Agenten zum nächsten weitergegeben werden. Außerdem kann eine parallele Orchestrierung vorkommen, bei der mehrere Agenten gleichzeitig an derselben Aufgabe arbeiten.

Diese Tabelle zeigt gängige Interaktionsmuster für Benutzer:

Diese Muster helfen dem Laufzeit-Agenten, komplexe Aufgaben zu bewältigen, Aktionen zu koordinieren und Ergebnisse schnell zu liefern. Sie profitieren von reibungslosen, zuverlässigen Interaktionen, die zu Ihren geschäftlichen Anforderungen passen.

Ausführung von Laufzeit-Agenten

Aufgabenkoordination

Ein Runtime-Agent nutzt eine leistungsstarke Orchestrierungs- und Workflow-Engine, um Aufgaben zu steuern. Diese Engine koordiniert die Agent-Schleife, zu der das Entgegennehmen Ihrer Eingaben, der Aufruf von Modellen, die Nutzung von Tools, die Aktualisierung des Zustands und das Treffen von Entscheidungen gehören. Der Agent kann mehrstufige Aufgaben und verzweigte Workflows bearbeiten und bei Bedarf sogar eine menschliche Genehmigung einholen.

Bei der Aufgabenkoordinierung sind die folgenden Schlüsselprozesse entscheidend:

• Der Agent nimmt Ihre Eingabe entgegen und entscheidet, welche Aktion er ausführt.
• Er ruft Modelle oder Tools auf, um Informationen zu verarbeiten.
• Der Agent aktualisiert seinen Zustand und protokolliert seine Entscheidungen.
• Er steuert komplexe Workflows, einschließlich verzweigter Abläufe und Schritten mit menschlicher Beteiligung (Human-in-the-Loop).
• Der Agent gewährleistet eine zuverlässige Ausführung mit Checkpoints, über die er sich nach Fehlern wiederherstellen kann.
• Er skaliert, um viele Aufgaben gleichzeitig zu bearbeiten, und stimmt sich bei Bedarf mit anderen Agenten ab.
• Der Agent bindet externe Systeme ein und sorgt dabei für eine sichere und dauerhafte Ausführung.

Diese Fähigkeiten machen den Runtime-Agenten zu einem wichtigen Baustein Ihrer Geschäftsprozesse.

Zustandsverwaltung

Die Zustandsverwaltung ist für jeden Runtime-Agenten entscheidend. Sie möchten, dass der Agent vergangene Aktionen im Gedächtnis behält, laufende Aufgaben nachverfolgt und wichtige Daten speichert. Dafür nutzt der Agent sowohl Kurzzeit- als auch Langzeitspeicher, um Kontext und Wissen zu verwalten.

Für eine wirksame Zustandsverwaltung gehen Sie wie folgt vor:

1. Schaffen Sie Vertrauen in das Verhalten des Agenten, indem Sie Instrumentierung, Entscheidungsprotokolle, Aufzeichnungen von Tool-Aufrufen und Kostenverfolgung einrichten.
2. Testen Sie den Agenten unter realen Bedingungen mit Belastungstests und prüfen Sie dabei Berechtigungsbereiche und Eskalationswege.
3. Lassen Sie den Agenten gegen Altsysteme laufen, um Integrationsprobleme und Fehlkonfigurationen aufzudecken.
4. Sorgen Sie für saubere, strukturierte Daten, einschließlich detaillierter Protokolle und Kostenaufzeichnungen, um die Leistung zu verbessern.

Der Agent speichert Speicherinhalte, Ausführungsverlauf und Arbeitsdaten in externen Speichern wie Datenbanken oder Objektspeichern. Für jede Sitzung nutzt der Agent eine flüchtige Umgebung, die nach der Verwendung gelöscht wird. Das verhindert Zustandslecks und schützt Ihre Daten. Wenn der Agent eine Sitzung fortsetzen muss, erstellt er eine neue Umgebung und hängt den gespeicherten Zustand wieder an.

Ein Runtime-Agent nutzt eine gestaffelte Speicherarchitektur. Der Kurzzeitspeicher hält die letzten Aktionen vor, während der Langzeitspeicher Lösungen wie Vektordatenbanken verwendet. Der Agent erfasst Nutzerinteraktionen und teilt seinen Zustand mit anderen Agenten, damit Workflows konsistent bleiben. Dieser Ansatz sorgt für Zuverlässigkeit und verhindert Konflikte in Multi-Agenten-Systemen.

Überwachung und Diagnose

Protokollierung

Eine umfassende Protokollierung ist nötig, um zu verstehen, wie ein Runtime-Agent arbeitet. Sie erfasst jede Entscheidung, jede Aktion und jede Zustandsänderung. Das hilft Ihnen, Probleme zu beheben, das Verhalten des Agenten zu analysieren und Compliance-Anforderungen zu erfüllen. Sie können den Ausführungsablauf des Agenten nachverfolgen und sehen, wie er argumentiert und Entscheidungen trifft. Eine kontinuierliche Überwachung zeigt unerwartetes Verhalten früh an, sodass Sie Probleme beheben, bevor sie Nutzer betreffen.

Sie sollten zentrale Dashboards nutzen, um Protokolle einzusehen und die Leistung des Agenten zu analysieren. Diese Dashboards helfen Ihnen, Muster zu erkennen, operative Trends nachzuverfolgen und Risiken zu steuern. Sie können Warnmeldungen einrichten, um bei Problemen sofort benachrichtigt zu werden.

Leistungskennzahlen

Leistungskennzahlen zeigen, wie gut ein Runtime-Agent arbeitet. Sie erfassen Kennzahlen wie Antwortzeit, Aufgabenabschlussrate und Ressourcennutzung. Diese Werte helfen Ihnen, Zuverlässigkeit und Effizienz zu messen. Sie können Plattformen wie Fiddler AI Observability und Rubrik Agent Cloud nutzen, um einheitliche Analysen zu erhalten und die Interaktionen zwischen Agenten zu überwachen.

Testen Sie Observability-Werkzeuge vor dem Rollout in einer Staging-Umgebung. So stellen Sie sicher, dass Telemetrie und Warnmeldungen wie erwartet funktionieren. Zentrale Plattformen verbinden das Verhalten der Agenten mit Signalen zu Datenrisiken und verschaffen Ihnen so bessere Übersicht und Kontrolle.

Tipp: Kontinuierliche Überwachung, Protokollierung und Leistungskennzahlen sind für den zuverlässigen Betrieb von Runtime-Agenten unverzichtbar. Sie helfen Ihnen, hohe Standards einzuhalten und schnell auf Probleme zu reagieren.

Integrationen und Erweiterbarkeit

Externe Dienste

Sie können die Leistungsfähigkeit Ihrer Runtime-Agenten erweitern, indem Sie sie mit externen Diensten verbinden. So greifen Ihre Agenten auf Echtzeitdaten zu, automatisieren Workflows und interagieren mit Plattformen von Drittanbietern. Denkbar ist etwa, dass der Agent Kundendaten aus einem CRM-System abruft, unstrukturierte Daten aus Dokumenten analysiert oder IoT-Geräte auf Live-Updates überwacht.

Hier sind einige gängige Integrationsoptionen für externe Dienste:

• Anbindung an CRM-Systeme für den Zugriff auf Kundendaten.
• Zugriff auf unstrukturierte Datenquellen wie PDFs und Word-Dokumente.
• Abruf von Echtzeitdaten aus IoT-Geräten und Analysewerkzeugen.
• Nutzung von APIs externer Anwendungen, etwa von Zahlungsgateways und Logistikplattformen.

Für die Anbindung externer Dienste an Ihre Agenten stehen Ihnen mehrere Methoden zur Verfügung. Jede Methode bietet eigene Vorteile und Kompromisse. Die folgende Tabelle zeigt die wichtigsten Typen:

Wählen Sie die Methode, die zu Ihren geschäftlichen Anforderungen und technischen Voraussetzungen passt. Embedded iPaaS eignet sich gut für eine schnelle Bereitstellung. Unified-API-Lösungen helfen, wenn Sie eine breite Abdeckung benötigen. Individuelle Entwicklung gibt Ihnen die volle Kontrolle für komplexe Szenarien.

Tipp: Testen Sie Integrationen in einer kontrollierten Umgebung, bevor Sie sie in der Produktivumgebung bereitstellen. So vermeiden Sie unerwartete Probleme und stellen sicher, dass Ihre Agenten reibungslos mit externen Diensten zusammenarbeiten.

API-Management

API-Management spielt eine zentrale Rolle, wenn es darum geht, Ihre Agenten mit externen Systemen zu verbinden. Sie müssen APIs entwerfen, veröffentlichen, absichern, überwachen und analysieren, damit Ihre Agenten sicher und effizient interagieren können. Eine durchdachte API-Management-Strategie hilft Ihnen, Ihre Agentenlösungen zu skalieren und sich an veränderte Anforderungen anzupassen.

Mit agentischer KI können Sie APIs schnell erstellen und so Effizienz und Genauigkeit steigern. KI-gestützte Werkzeuge machen die Entwicklererfahrung reibungsloser. APIs lassen sich mit Ihren Anforderungen nach oben oder unten skalieren.

Hier sind einige Best Practices für sicheres API-Management:

1. Verwenden Sie OAuth 2.0 oder OpenID Connect für delegierten Zugriff.
2. Validieren Sie JWTs am Gateway.
3. Implementieren Sie API-Schlüssel für interne Tools.
4. Erzwingen Sie CORS-Richtlinien für den Zugriff aus dem Frontend.

Sie können Plattformen wie Gravitee Agent Management nutzen, um Ihr API-Programm zu erweitern und KI-Agenten zu unterstützen. Dieser Ansatz macht vertrauenswürdige APIs zu gesteuerten Tools, während Sicherheit, Observability und betriebliche Kontrollen erhalten bleiben.

Blockzitat:
"KI-Agenten werden zu einer wichtigen Schnittstelle für Unternehmenssoftware, und sie sicher zu ermöglichen, ist ein zentraler Bestandteil unserer Strategie. Mit Gravitee Agent Management können wir unser bestehendes API-Programm erweitern, um KI-Agenten zu unterstützen. Vertrauenswürdige APIs werden so zu gesteuerten MCP-Tools, während die Sicherheit, Observability und betrieblichen Kontrollen erhalten bleiben, die unsere Kunden von Tealium erwarten."

Sie sollten die API-Nutzung überwachen und Warnmeldungen für ungewöhnliche Aktivitäten einrichten. So schützen Sie Ihre Daten und behalten die Compliance im Blick. API-Management gibt Ihnen die Flexibilität, Agenten mit vielen Diensten zu verbinden und Ihre Lösungen mit wachsendem Geschäft zu skalieren.

Governance, Sicherheit und Compliance

Identitäts- und Zugriffsverwaltung

Entra-Integration

Für die Sicherheit Ihres KI-Agenten brauchen Sie eine starke Identitäts- und Zugriffsverwaltung. Microsoft Entra ermöglicht es Ihnen, jeden Agenten als eigenständige Identität zu verwalten. So richten Sie eine sichere Authentifizierung ein, und nur vertrauenswürdige Agenten erhalten Zugriff auf Ihre Systeme. Mit einer feingranularen Autorisierung erhält jeder Agent nur die Berechtigungen, die er benötigt. Entra hilft Ihnen außerdem, Agentenidentitäten zu überwachen, und Sie können den Zugriff bei riskantem Verhalten aussetzen oder widerrufen. Sie behalten die Kontrolle über den Lebenszyklus Ihres Agenten und verringern das Risiko unautorisierter Zugriffe.

Least-Privilege-Zugriff

Sie sollten sich stets an das Least-Privilege-Prinzip halten. Geben Sie jedem Agenten nur den Zugriff, den er für seine Aufgaben benötigt. Das begrenzt Risiken und schützt sensible Daten. Sie können für jeden Agenten Berechtigungen und Leitplanken festlegen. Laufzeit-Zugriffskontrollen ermöglichen Entscheidungen auf Basis des Zustands und der Umgebung des Agenten. Human-in-the-Loop-IAM ergänzt die Aufsicht bei sensiblen Aktionen. Mit Analysen erkennen Sie ungewöhnliches Agentenverhalten und reagieren schnell.

Nachvollziehbarkeit und Lebenszyklus

Überwachungsprotokolle

Sie müssen jede Aktion nachverfolgen, die Ihr Agent ausführt. Überwachungsprotokolle bieten Ihnen für jede Entscheidung und jedes Ereignis ein unveränderliches Protokoll. Das hilft Ihnen, Compliance-Vorgaben zu erfüllen, und erleichtert die Prüfung, was passiert ist, wenn etwas schiefgeht. Mit Audit-Protokollen können Sie Aufsichtsbehörden belegen, dass Sie die richtigen Prozesse einhalten. Qualitätssicherungsteams können Agentenergebnisse prüfen, um sicherzustellen, dass sie Ihre Standards erfüllen.

Bedingter Zugriff

Mit bedingtem Zugriff legen Sie Regeln dafür fest, wann und wie Agenten Ressourcen nutzen dürfen. Sie können Authentifizierungsmethoden, Berechtigungen und Richtlinien für jeden Agenten definieren. Microsoft Entra behandelt Agenten als erstklassige Identitäten und wendet Zero-Trust-Prüfungen an. Sie können jeden Agenten einer verantwortlichen Person zuordnen, dem sogenannten Sponsor, um die Verantwortlichkeit sicherzustellen. Verlässt ein Sponsor das Unternehmen, können Sie den Agenten übertragen oder deaktivieren. So bleibt Ihre Umgebung sicher und compliant.

• Bedingter Zugriff nutzt agentenspezifische Signale, um Anfragen zu bewerten.
• Zero-Trust-Prüfungen gelten für Agenten genauso wie für Benutzer.
• Lebenszyklus-Workflows automatisieren die Verwaltung von Agenten.

Sicherheits-Best-Practices

Durchsetzung von Richtlinien

Sie müssen Sicherheitsrichtlinien für jeden Agenten durchsetzen. Überwachen Sie die Agentenaktivitäten, damit sichergestellt ist, dass sie Ihre Regeln einhalten. Nutzen Sie Überwachungsprotokolle, um Verstöße frühzeitig zu erkennen. Automatisieren Sie Workflows, um Risiken zu markieren und die Compliance zu unterstützen. Regelmäßige Überprüfungen helfen Ihnen, sich an neue Gesetze anzupassen, und halten Ihre Laufzeitumgebung sicher.

Datenschutz

Der Schutz von Daten hat höchste Priorität. Geben Sie Agenten nur die Daten, die sie benötigen. Nutzen Sie datenschutzfördernde Technologien wie Verschlüsselung und Anonymisierung. Erklären Sie stets, wie Sie personenbezogene Daten verwenden. Unterstützen Sie Rechte betroffener Personen, etwa Auskunfts- und Löschanfragen. Führen Sie detaillierte Aufzeichnungen darüber, wie Agenten Daten verwenden und schützen. Diese Schritte helfen Ihnen, Datenschutzgesetze einzuhalten und Vertrauen aufzubauen.

Tipp: Kombinieren Sie starkes Identitätsmanagement, Nachvollziehbarkeit und Durchsetzung von Richtlinien, um eine sichere und compliant Agentenumgebung zu schaffen.

Best Practices und Schnellstart

Praxistipps

Mit praktischen Schritten legen Sie ein solides Fundament für Ihre Agentenprojekte. Definieren Sie zunächst klare Ziele für jeden Agenten. Stellen Sie sicher, dass Sie verstehen, was der Agent erreichen soll. Nutzen Sie modularen Aufbau, um Aufgaben in kleinere Teile zu zerlegen. So lässt sich Ihr Agent leichter verwalten und aktualisieren. Testen Sie jede Fähigkeit, bevor Sie sie dem Agenten hinzufügen. Verwenden Sie Versionskontrolle, um Änderungen nachzuverfolgen und Ihren Code geordnet zu halten.

Tipp: Dokumentieren Sie jeden Workflow und jede Entscheidung. Gute Dokumentation erleichtert die Fehlersuche und verbessert die Zusammenarbeit im Team.

Sie sollten die Leistung Ihrer Agenten mit Dashboards überwachen. Richten Sie Warnmeldungen für ungewöhnliche Aktivitäten ein. Prüfen Sie Protokolle regelmäßig, um Probleme frühzeitig zu erkennen. Nutzen Sie Feedback von Benutzern, um das Verhalten des Agenten zu verbessern. Aktualisieren Sie Ihren Agenten regelmäßig, damit er zuverlässig und sicher bleibt.

Häufige Fallstricke

Beim Erstellen und Bereitstellen von Agenten können Herausforderungen auftreten. Ein häufiger Fehler ist, auf Tests zu verzichten. Wenn Sie Ihren Agenten nicht testen, riskieren Sie Fehler im Produktivbetrieb. Ein weiterer Fallstrick sind zu viele Berechtigungen. Halten Sie sich stets an das Least-Privilege-Prinzip. Vermeiden Sie es, sensible Informationen im Agentencode fest zu hinterlegen. Das kann zu Sicherheitsrisiken führen.

Manche Teams vergessen, die Agentenaktivitäten zu überwachen. Ohne Überwachung erkennen Sie Probleme nicht rechtzeitig. Wenn Feedback von Benutzern ignoriert wird, verfehlt der Agent möglicherweise wichtige Bedürfnisse. Wenn Sie Ihren Agenten nicht aktualisieren, ist er anfällig für neue Bedrohungen.

Schnellstart-Anleitung

Mit dieser Checkliste können Sie Ihren ersten Agenten schnell starten:

1. Legen Sie einen einfachen Anwendungsfall für Ihren Agenten fest.
2. Wählen Sie das Microsoft-Agent-Framework und das Foundry-Toolkit aus.
3. Entwerfen Sie den Agenten mit modularen Fähigkeiten.
4. Schreiben und testen Sie jede Fähigkeit separat.
5. Verpacken Sie den Agenten mithilfe von Containerisierung.
6. Richten Sie CI/CD-Pipelines für die automatisierte Bereitstellung ein.
7. Stellen Sie den Agenten in einer kontrollierten Umgebung bereit.
8. Überwachen Sie die Agentenaktivitäten und sammeln Sie Benutzerfeedback.
9. Aktualisieren Sie den Agenten auf Basis von Leistung und Feedback.

Hinweis: Fangen Sie klein an und skalieren Sie, sobald Sie Erfahrung gesammelt haben. Ein gut geplantes Agentenprojekt wächst reibungslos und liefert Mehrwert.

Weiterführende Ressourcen

Sie finden zahlreiche Ressourcen, die Ihnen beim Erstellen, Bereitstellen und Verwalten von Agenten mit Microsoft Agent 365 und Foundry helfen. Diese Tools und Leitfäden unterstützen Sie in jeder Phase Ihres Projekts. Entdecken Sie die folgenden Optionen, um Ihr Wissen zu vertiefen und Herausforderungen zu meistern, wenn Sie mit Enterprise-KI-Agenten arbeiten.

📚 Offizielle Dokumentation

• Agent 365-Dokumentation
  Erfahren Sie mehr über Kernkonzepte, Architektur und Einrichtungsschritte.
• Microsoft Foundry-Dokumentation
  Erhalten Sie Details zu Laufzeitumgebungen, Bereitstellung und Orchestrierung.
• Microsoft Entra Identity Platform
  Verstehen Sie Identitäts- und Zugriffsverwaltung für Agenten.

🛠️ Entwicklertools und SDKs

• Agent Framework SDK
  Greifen Sie auf Codebeispiele, API-Referenzen und Schnellstartanleitungen zu.
• Foundry Toolkit
  Nutzen Sie CLI-Tools zum Paketieren, Testen und Bereitstellen von Agenten.
• Microsoft Copilot Studio
  Erstellen und orchestrieren Sie Agenten-Workflows mit Low-Code-Tools.

🌐 Community und Support

• Microsoft Tech Community: AI Agents
  Stellen Sie Fragen, teilen Sie Ideen und vernetzen Sie sich mit anderen Entwicklern.
• Stack Overflow: Microsoft-Agent365
  Finden Sie Antworten auf technische Fragen aus der Entwickler-Community.
• GitHub Discussions
  Beteiligen Sie sich an Diskussionen über Best Practices und Fehlerbehebung.

Tipp: Nehmen Sie an Webinaren und virtuellen Veranstaltungen teil, um über neue Funktionen und Anwendungsfälle informiert zu bleiben. Veranstaltungspläne finden Sie im Microsoft AI-Blog.

📈 Lernpfade und Tutorials

📝 Best-Practice-Leitfäden

• Richtlinien für verantwortungsvolle KI
  Befolgen Sie Regeln für die sichere und ethische Entwicklung von Agenten.
• Security and Compliance Center
  Prüfen Sie Checklisten zur Absicherung Ihrer Agentenumgebung.

Hinweis: Setzen Sie diese Ressourcen als Lesezeichen, um während Ihres Projekts schnell darauf zuzugreifen. Sie können jederzeit zurückkehren, wenn Sie Hilfe benötigen oder mehr erfahren möchten.

Beim Aufbau mit Agent 365 und Foundry steht Ihnen ein starkes Unterstützungsnetzwerk zur Verfügung. Nutzen Sie diese Ressourcen, um Probleme zu lösen, neue Fähigkeiten zu erlernen und Ihre Agenten sicher und leistungsfähig zu halten.

Zum Abschluss gilt: Der Aufbau einer KI-Architektur auf Enterprise-Niveau erfordert einen bewussten Abschied von einfachen Bot-Deployments nach dem Prinzip Versuch und Irrtum. Indem Sie Ihre Systeme entlang der Experience-, Agent-, Runtime- und Governance-Ebenen von Microsoft Agent 365 strukturieren, stellen Sie sicher, dass Ihre Organisation skalierbar, durchgehend sicher und vollständig konform bleibt. Achten Sie darauf, Skill-First-Modularität, robustes Zustandsmanagement und eine strikte Identitäts-Governance mit Microsoft Entra zu priorisieren. Wenn Sie eine umfassende Durchsicht dieser Prinzipien auf Führungsebene wünschen und wissen möchten, wie sie in realen Enterprise-Szenarien angewendet werden, sehen Sie sich die vollständige Podcast-Folge unter Microsoft AI Agent Runtimes: Beyond Enterprise Chatbots an. Fangen Sie klein an, testen Sie gründlich, nutzen Sie CI/CD-Pipelines und erleben Sie, wie Ihre Geschäftsprozesse durch echte agentenbasierte Automatisierung transformiert werden!

Häufige Fragen

Was ist Microsoft Agent 365?

Agent 365 ist eine Plattform von Microsoft. Sie nutzen sie, um KI-Agenten in Ihrer Organisation zu erstellen, zu verwalten und zu steuern. Jeder Agent erhält eine eindeutige Identität und umfassende Sicherheitskontrollen.

Wie unterstützt Foundry die Bereitstellung von Agenten?

Foundry stellt eine Laufzeitumgebung für Ihre Agenten bereit. Sie nutzen sie, um Agenten bereitzustellen, zu skalieren und zu verwalten, ohne sich um die Infrastruktur kümmern zu müssen. Foundry automatisiert Orchestrierung und Überwachung.

Kann ich Agent 365 in vorhandene Microsoft-Tools integrieren?

Ja, Sie können Agent 365 mit Microsoft Teams, Outlook und weiteren Microsoft 365-Apps verbinden. So können Ihre Agenten mit Benutzern in vertrauter Umgebung interagieren.

Wie stelle ich sicher, dass meine Agenten sicher sind?

Verwenden Sie Microsoft Entra für die Identitätsverwaltung. Vergeben Sie Zugriffe nach dem Prinzip der minimalen Berechtigungen, überwachen Sie die Aktivitäten der Agenten und setzen Sie Sicherheitsrichtlinien durch. Überwachungsprotokolle und bedingter Zugriff helfen Ihnen, die Compliance aufrechtzuerhalten.

Welche Kenntnisse benötige ich, um Agenten zu erstellen?

Für einfache Agenten können Sie Low-Code-Tools nutzen, für erweiterte Funktionen Entwickler-SDKs. Grundlegende Programmierkenntnisse helfen, aber Sie müssen kein Experte sein, um zu starten.

Wie überwache ich die Leistung von Agenten?

Erfassen Sie Kennzahlen wie Antwortzeit und Aufgabenabschluss. Nutzen Sie Dashboards und Protokolle, um die Aktivitäten der Agenten zu verfolgen. Richten Sie Warnmeldungen für ungewöhnliches Verhalten ein.

Können Agenten mit externen Diensten verbunden werden?

Ja! Sie können Agenten mit APIs, CRM-Systemen und anderen Drittanbieterplattformen integrieren. Wählen Sie die Integrationsmethode, die zu Ihren Anforderungen passt, etwa eingebettete iPaaS oder eine individuelle Entwicklung.

🎧 Diese Episode anhören

Möchten Sie eine praxisnahe Erklärung zu Microsoft AI Agent Runtimes? In dieser Episode wird das Thema verständlich aufbereitet. Sie erfahren, warum es für Microsoft 365, Azure, Power Platform, Sicherheit, KI und modernes Arbeiten wichtig ist.

Hören Sie sich diese Episode an, wenn Sie:

• die zentralen Konzepte hinter Microsoft AI Agent Runtimes verstehen möchten
• sehen möchten, wie sie in das gesamte Microsoft-Technologie-Ökosystem passt
• erfahren möchten, wo sie für Ihr Unternehmen einen praktischen Nutzen schaffen kann

Diese verwandten M365 FM-Episoden könnten Sie ebenfalls interessieren:

• Enterprise AI Agent Fabric: Architecture Beyond Chatbots
• AI Agent Identity Security: Beyond Service Accounts
• Enterprise AI Agent Engineering mit Karthikeyan VK [MVP]
• Von Daten zu intelligenten Agenten: Vertrauenswürdige Enterprise-KI mit Microsoft AI Foundry entwickeln – mit Shubhangi Goyal [MVP]
• Agent-to-Agent-Kommunikation (A2A) – einfach erklärt

Entdecken Sie weitere praxisnahe Microsoft-Gespräche auf M365 FM.

Zuletzt geprüft: Juli 2026.

Für wen diese Episode gedacht ist

Diese Episode richtet sich an Microsoft-Praktiker, Architekten, Entwickler, Sicherheitsexperten und IT-Verantwortliche, die das Thema in einer realen Umgebung bewerten.

🎧 Das sollten Sie sich außerdem anhören

• AI Agents — Ein sinnvdär nächster Schritt, der dem Thema praktischen Kontext verleiht.
• Model Context Protocol — Ein sinnvoller nächster Schritt, der dem Thema praktischen Kontext verleiht.
• Microsoft AI Agent Harness — Ein sinnvoller nächster Schritt, der dem Thema praktischen Kontext verleiht.