Autonom, aber verantwortlich: Governance-konforme Agentensysteme mit der Agent Runtime von Azure AI Foundry

Von Mirko Peters · 2025-11-21 · Aktualisiert 2025-11-26

Autonom, aber verantwortlich: Agentensysteme mit Azure AI Foundry sichern Governance, Nachvollziehbarkeit und Compliance für unternehmenstaugliche, verantwortungsvolle KI-Lösungen.

Automatisch mit KI aus dem Originalbeitrag übersetzt. Englisches Original lesen

Azure AI Foundry bietet Ihnen mehr als ein leistungsstarkes Modell. Sie nutzen eine Agent Runtime mit Governance, die Ordnung in Ihre Prozesse bringt. Sie sehen, was in jedem KI-Prozess passiert. Unternehmen brauchen mehr als zufällige Chatbots. Sie benötigen Systeme, die Aktionen überwachen und Entscheidungen nachvollziehbar erklären. Diese Systeme halten außerdem Regeln ein. Unternehmen, die überprüfbare Agentensysteme einsetzen, schneiden deutlich besser ab. Sie gewinnen mehr Nutzer und haben mehr Erfolg als einfache Chatbots. Viele Organisationen berichten von bis zu 60 % besseren Ergebnissen. Zudem arbeiten sie bereits wenige Monate nach dem Start schneller. Governance-konforme Agenten lösen täglich echte Probleme. Sie unterstützen bei Kundenanliegen, Rechnungsbearbeitung und der Überwachung vieler Systeme. Das Prinzip „Autonom, aber verantwortlich“ leitet jeden Schritt. Es sorgt dafür, dass Ihre KI intelligent ist und verantwortungsvoll handelt.

Das Wichtigste in Kürze

• Mit Azure AI Foundry erstellen Sie Agenten, die selbstständig arbeiten. Diese Agenten treffen Entscheidungen und erledigen Aufgaben eigenständig. So schließen Unternehmen Arbeit schneller und besser ab.

• Verantwortlichkeit ist sehr wichtig. Jeder Agent besitzt eine eigene, eindeutige ID. So können Sie nachverfolgen, was Agenten tun, und prüfen, ob sie Regeln einhalten.

• Modelle, Anweisungen und Tools arbeiten in Agentensystemen zusammen. Dadurch sind Agenten leistungsfähig und lassen sich für unterschiedliche Aufgaben anpassen. Dabei bleiben Agenten bei ihrer Arbeit sicher.

• Die Protokollierung des gesamten Lebenszyklus hält fest, was Agenten tun. Das hilft Unternehmen, Probleme zu beheben und Regeln einfach einzuhalten.

• Microsoft Entra hilft dabei, die Identität von Agenten zu verwalten. Es sorgt dafür, dass Agenten nur streng begrenzte Berechtigungen erhalten. So bleiben Systeme sicher und unter Kontrolle.

Autonome, aber verantwortliche Agenten

Was Agenten autonom macht

Sie wollen, dass Ihre KI mehr leistet, als nur Schritte abzuarbeiten. In Azure AI Foundry können Agenten selbstständig Entscheidungen treffen. Sie wählen Tools aus und planen die nächsten Schritte. Sie geben eine Aufgabe vor, und der Agent findet selbst heraus, wie er sie erledigt. Sie müssen ihm nicht jeden Schritt vorgeben. Er kann beobachten, entscheiden und eigenständig handeln.

Agenten verfügen über drei zentrale Bestandteile, die ihre Arbeit ermöglichen:

Sie können das Modell wechseln, Anweisungen aktualisieren oder Tools hinzufügen. So passt sich Ihr Agent neuen Aufgaben an. Beispielsweise können Sie den Agent Service von Azure AI Foundry mit Azure OpenAI Service nutzen oder eine Verbindung zu Azure AI Search herstellen. Außerdem stehen Microsoft Copilot Studio, Azure API Management, Azure Functions und Azure Container Apps zur Verfügung. Mit diesen Optionen lernt, plant und handelt Ihr Agent auf vielfältige Weise.

Agenten in Azure AI Foundry reagieren nicht nur. Sie handeln von sich aus. Sie können Veränderungen beobachten, Tools auswählen und Probleme beheben, ohne auf Sie zu warten. Deshalb unterscheiden sie sich grundlegend von einfachen Skripten.

Verantwortlichkeit in KI-Systemen sicherstellen

Autonomie ist wertvoll, aber Sie müssen Ihrer KI vertrauen können. Sie möchten wissen, was Ihr Agent getan hat, wann und warum. Azure AI Foundry sorgt dafür, dass jeder Agent nachverfolgt wird. Jeder Agent erhält beim Erstellen eine Microsoft Entra Agent ID. Diese ID zeigt, wem der Agent gehört, wer ihn nutzen darf und was er tut.

Sie können jeden Schritt des Agenten nachvollziehen. Das System protokolliert jeden Vorgang, sodass Sie prüfen können, was passiert ist. Tritt ein Fehler auf, sehen Sie in den Protokollen die Details. Sicherheitstools von Microsoft helfen Ihnen, Systeme abzusichern. Bei Bedarf können Sie Warnmeldungen einrichten, Protokolle prüfen und die Arbeitsweise des Agenten anpassen.

So stellt Azure AI Foundry die Verantwortlichkeit von Agenten sicher:

• Jeder Agent besitzt eine eigene Microsoft Entra Agent ID zur Nachverfolgung.

• Sicherheitsteams können Agenten so überwachen wie andere wichtige Ressourcen.

• Sie können auf Warnmeldungen reagieren und Aktionen, Prompts oder Tools der Agenten ändern.

• Das System speichert jeden Schritt für Prüfungen und Überprüfungen.

Für KI im Geschäftsumfeld brauchen Sie sowohl Autonomie als auch Verantwortlichkeit. Autonomie hilft Agents, Probleme zu beheben und schnell zu handeln. Verantwortlichkeit gibt Ihnen Kontrolle und Vertrauen.

Schauen wir uns an, worin sich Agents und Skripte unterscheiden:

Skripte folgen einem festgelegten Pfad. Sie führen aus, was Sie vorgeben, Schritt für Schritt. Agents in Azure AI Foundry arbeiten eigenständig. Sie planen, handeln und verfolgen jeden Schritt nach. Damit wird Ihr KI-System autonom, aber verantwortlich. Sie erhalten intelligente Aktionen und behalten die klare Kontrolle.

Agent-Struktur: Modell, Anweisungen, Tools

Agents in Azure AI Foundry folgen einer klaren Struktur, damit Sie zuverlässige und sichere KI-Systeme entwickeln können. Sie arbeiten mit drei Hauptbestandteilen: dem Modell, den Anweisungen und den Tools. Jeder Bestandteil hat eine besondere Aufgabe. Kombinieren Sie sie, entstehen Agents, die planen, handeln und lernen können – leistungsstark und zugleich gut überprüfbar.

Die Rolle des Modells

Das Modell ist das Gehirn Ihres Agents. Es hilft dem Agent, Sprache zu verstehen, Entscheidungen zu treffen und Probleme zu lösen. Sie können aus verschiedenen Modellen wählen, etwa GPT-4o oder Open-Source-Optionen. So passen Sie das Modell Ihrem Bedarf an. Wenn Sie das Modell später wechseln möchten, können Sie dies tun, ohne den restlichen Agent zu verändern. Diese Flexibilität hilft Ihnen, Ihre Ergebnisse jederzeit konsistent zu halten. Wenn Sie das Modell und die Umgebung kontrollieren, machen Sie Ihren Agent zuverlässiger und leichter vertrauenswürdig.

Agents nutzen das Modell, um schwierige Aufgaben zu zerlegen, Informationen zu sammeln und das Gelernte zu behalten. Manche wissenschaftlichen Agents nutzen Modelle beispielsweise, um Schritte zu planen, Daten zu untersuchen und auf Basis der Ergebnisse zu handeln. Dieser Ansatz hilft in Bereichen wie der Medizin, in denen Agents komplexe Aufgaben bewältigen müssen.

Anweisungen als Leitplanken

Anweisungen legen fest, was Ihr Agent tun soll und wie er sich verhalten muss. Sie wirken wie Regeln oder Leitplanken. Mit diesen Anweisungen halten Sie Ihren Agent auf Kurs und verhindern Fehler. Sie können beispielsweise Filter einsetzen, um unsichere Fragen zu blockieren, oder verhindern, dass der Agent private Informationen weitergibt. Außerdem können Sie Regeln festlegen, die Antworten des Agents prüfen, bevor sie ausgegeben werden.

Berechtigte Tools und Fähigkeiten

Tools verleihen Ihrem Agent die Fähigkeit zu handeln. Sie entscheiden, welche Tools er nutzen darf. Dazu können die Suche in Daten, die Ausführung von Code oder die Anbindung an Geschäftsanwendungen gehören. Sie steuern den Zugriff auf jedes Tool, sodass der Agent nur das verwendet, was Sie erlauben. Dieses Setup hält Ihr System sicher und leicht verwaltbar.

Agents in der wissenschaftlichen Praxis nutzen Tools, um Daten zu analysieren, Ergebnisse vorherzusagen und sich mit anderen Systemen zu verbinden. Beispiele:

• CellAgent nutzt Modelle, um komplexe biologische Aufgaben zu zerlegen.

• DrugAgent sagt mithilfe spezieller Tools voraus, wie Wirkstoffe funktionieren.

• BioMANIA verbindet sich mit Python-Tools für detaillierte Datenanalysen.

Wenn Sie Modell, Anweisungen und Tools gemeinsam einsetzen, entstehen Agents, die autonom, aber verantwortlich arbeiten. Sie erhalten intelligente Systeme, die Ihre Regeln einhalten und jede Aktion lückenlos dokumentieren.

Lebenszyklus-Protokollierung: Threads, Ausführungen, Ausführungsschritte

Dauerhafte Threads für die Nachvollziehbarkeit

Es ist wichtig zu wissen, was Ihr Agent tut. Azure AI Foundry nutzt dafür persistente Threads. Jeder Thread bündelt Unterhaltungen und Aufgaben. Sie können zurückblicken und nachvollziehen, was zuvor passiert ist. Das ist besonders hilfreich für Unternehmen mit strengen Vorgaben, etwa im Gesundheitswesen oder im Finanzsektor. Wenn Sie jeden Schritt nachweisen können, vertrauen Menschen Ihrem System mehr.

• Governance-Frameworks helfen Ihnen, Vertrauen in Ihre KI-Agenten aufzubauen.

• Sie müssen Interaktionen protokollieren und Audit-Trails führen, insbesondere in regulierten Branchen.

• Gute Governance hilft Ihnen, KI zu skalieren und Compliance-Anforderungen zu erfüllen.

Ausführungen und Ausführungszustände

Ausführungen zeigen, wie Ihr Agent in jedem Thread arbeitet. Wenn Sie eine Aufgabe starten, erstellt das System eine Ausführung. Sie sehen, ob eine Ausführung wartet, läuft oder abgeschlossen ist. So wissen Sie jederzeit, was Ihr Agent gerade tut. Azure AI Foundry übernimmt für Sie die Verwaltung von Unterhaltungsobjekten und Zuständen.

Sie können Unterhaltungen erneut verwenden und den Kontext über Sitzungen hinweg beibehalten. Wichtige Details gehen so nicht verloren, selbst wenn Sie den Kanal oder das Gerät wechseln.

Ausführungsschritte zur Nachvollziehbarkeit

Ausführungsschritte zeigen Ihnen jede Aktion Ihres Agenten. Sie können jeden Tool-Aufruf und jede Modellauswahl prüfen. So lassen sich Probleme leicht finden und beheben. Ausführungsschritte helfen Ihnen außerdem, schnell zu reagieren, wenn etwas schiefgeht. Das System liefert Warnmeldungen, Dashboards und Anleitungen für unterschiedliche Fehlerfälle.

Sie erhalten ein System, das autonom, aber verantwortlich arbeitet. Sie können jede Aktion Ihres Agenten prüfen, auditieren und wiederholen. So bauen Sie sichere und belastbare KI für Ihr Unternehmen auf.

Governance, Sicherheit und Observability

Identitäten und Berechtigungen mit Entra

Sie brauchen klare Regeln, um Ihre KI-Agenten sicher zu betreiben. Azure AI Foundry nutzt Microsoft Entra, um festzulegen, wer was tun darf. Jeder Agent erhält seine eigene Unternehmensidentität. Sie legen fest, was jeder Agent tun darf und welche APIs er nutzen kann. Sie richten die rollenbasierte Zugriffssteuerung (Role-Based Access Control, RBAC) ein, damit Agenten nur die Berechtigungen erhalten, die sie tatsächlich brauchen. Die meisten starten mit der Rolle Leser. Die Rolle Mitwirkender vergeben Sie nur, wenn sie wirklich nötig ist. So bleibt Ihr System sicher und das Prinzip der minimalen Berechtigungen ist gewahrt.

Automatisierte Identitätsverwaltung hilft Ihnen, Agenten mit geringerem Risiko hinzuzufügen, zu aktualisieren oder zu entfernen. Zusätzlich können Sie risikobasierte Zugriffsregeln nutzen, damit Agenten nur die Daten und Werkzeuge erhalten, die sie benötigen.

Beobachtbare Tool-Aufrufe

Sie wollen jederzeit wissen, was Ihre Agenten tun. Azure AI Foundry protokolliert jeden Tool-Aufruf und jede Aktion. Sie können das Verhalten der Agenten beobachten und Probleme schnell finden. Das System erfasst, wie häufig Anfragen auftreten, und deren Muster. Bei ungewöhnlichen Vorgängen erhalten Sie Warnmeldungen. Sie legen Leitplanken fest, damit Agenten vor und nach jeder Aktion die Sicherheitsregeln einhalten.

Evidence Trails für die Compliance

In Branchen wie dem Gesundheitswesen, dem Finanzsektor und anderen Bereichen gelten strenge Regeln. Azure AI Foundry hilft Ihnen, Nachweise für Audits zu sammeln. Sie sehen Ihre Daten, prüfen ihre Qualität und steuern, wer darauf zugreifen darf. Das System verwaltet Metadaten, damit Sie Ihre Verantwortlichkeit nachweisen können. Sie können das Sammeln von Nachweisen automatisieren und so Audits erleichtern.

• Die DSGVO verlangt, dass Sie personenbezogene Daten schützen.

• HIPAA betrifft Gesundheitsinformationen.

• SOX verlangt Audit-Protokolle für Finanzdaten.

• Der EU AI Act fordert Sicherheit, Transparenz und Nachvollziehbarkeit.

Ein Zero-Trust-Sicherheitsmodell und Cloud-Funktionen helfen Ihnen, die Regeln einzuhalten. Sie können wichtige Kennzahlen verfolgen und RegTech-Werkzeuge nutzen, um mit neuen Gesetzen Schritt zu halten.

Sie entwickeln Agentensysteme, die eigenständig arbeiten, aber stets einen klaren Nachweis hinterlassen. Das macht Ihre KI vertrauenswürdig und bereit für Umgebungen mit strengen Vorgaben.

Developer Experience & Quick Start

Ihren ersten Agenten mit Governance erstellen

Zuerst legen Sie fest, was Ihr Agent tun soll. Danach wählen Sie das Modell aus und schreiben einfache Anweisungen. Anschließend bestimmen Sie die Tools, die Ihr Agent verwenden soll. Azure AI Foundry macht die Einrichtung jedes Teils einfach. Mit dem Agent Service verbinden Sie Ihren Agenten mit Ihrem Geschäftsbetrieb. Dieser Dienst hilft Ihnen, Agenten mit starken Sicherheits- und Regelmechanismen hinzuzufügen. Sie können Agenten in Ihre Arbeit integrieren, ohne alles zu verändern. Viele Entwickler halten die Verwaltung vieler Agenten für schwierig. Der Agent Service bietet Ihnen eine solide Grundlage, um Agenten zu steuern und bereitzustellen.

Tipp: Beginnen Sie mit einem kleinen Agenten, der eine einzige Aufgabe erledigt. Ergänzen Sie weitere Funktionen, sobald Sie Erfahrungen gesammelt haben.

Protokolle und Lebenszyklus prüfen

Sie müssen bei jedem Schritt sehen, was Ihr Agent tut. Azure AI Foundry speichert einen Nachweis jeder Aktion. Sie können Threads, Runs und Run Steps prüfen, um den gesamten Ablauf nachzuvollziehen. Jeder Agent erhält ein spezielles SBOM-Artefakt. Dieses Artefakt ermöglicht es Ihnen, jede Änderung nachzuverfolgen und zu prüfen, wer der Agent ist. Sie sehen, welche Tools der Agent verwendet hat und wann er Entscheidungen getroffen hat. Mit Dashboards erkennen Sie Probleme und beheben sie schnell. So halten Sie Ihr System sicher und funktionsfähig.

Logic Apps und MCP-Tools integrieren

Sie können Ihren Agenten leistungsfähiger machen, indem Sie ihn mit Logic Apps und MCP-Tools verbinden. Logic Apps ermöglichen es Ihrem Agenten, sich mit vielen Geschäftssystemen zu verbinden. Sie können Ihren Agenten an CRM-, ERP- oder IT-Werkzeuge anbinden. MCP-Tools geben Ihrem Agenten neue Fähigkeiten, etwa die Suche in Daten oder das Ausführen von Code. Sie legen fest, welche Tools Ihr Agent nutzen darf. Sie definieren Regeln, damit Ihr Agent nur dort handelt, wo Sie es wünschen. So erweitern Sie die Fähigkeiten Ihres Agenten und behalten dabei Sicherheit und Kontrolle.

Hinweis: Beginnen Sie mit einfachen Tools und ergänzen Sie bei Bedarf weitere. Prüfen Sie stets die Protokolle, um sicherzustellen, dass Ihr Agent Ihre Regeln einhält.

Azure AI Foundry Agents ermöglichen es Ihnen, eigenständig zu arbeiten und dennoch Regeln einzuhalten. Sie können jede Aktion anhand klarer Protokolle einsehen und prüfen. Gute Regeln und Nachverfolgung helfen Ihnen, Risiken zu senken und Freigaben schneller zu erhalten. Das stärkt zudem das Vertrauen in Ihr System.

• Automatische Regeln und Überwachung halten Ihre KI sicher.

• Nachverfolgung und Versionierung erleichtern die Prüfung.

• Arbeit wird schneller erledigt, und Probleme treten seltener auf. Kunden sind zufriedener.

Sie können jetzt mit der Automatisierung durch Agenten beginnen. Protokolle, die jeden Schritt zeigen, und Tools mit festgelegten Berechtigungen helfen Ihnen, geschäftliche Anforderungen zu erfüllen und sich auf kommende Entwicklungen vorzubereiten.

Häufige Fragen

Was ist der wesentliche Unterschied zwischen einem Agenten und einem Chatbot?

Mit einem Agenten behalten Sie mehr Kontrolle. Agenten können planen, handeln und Tools nutzen. Chatbots beantworten lediglich Fragen. Agenten führen Protokolle über jede Aktion. Sie können jederzeit nachvollziehen, was sie getan haben.

Wie hilft Azure AI Foundry Ihnen dabei, Aktionen von Agenten nachzuverfolgen?

Sie sehen jeden Schritt, den Ihr Agent ausführt. Das System protokolliert Threads, Ausführungen und Ausführungsschritte. Anhand dieser Protokolle können Sie prüfen, was wann und warum passiert ist. Das schafft Vertrauen in Ihre KI.

Können Sie das Modell oder die Tools nach dem Erstellen eines Agenten ändern?

Ja! Sie können Modelle austauschen oder neue Tools hinzufügen, ohne von vorne zu beginnen. So passen Sie Ihren Agenten an neue Aufgaben oder bessere Ergebnisse an. Ihre Anweisungen und Ihr Verlauf bleiben dabei erhalten.

Wie sorgen Sie dafür, dass Agenten sicher arbeiten und die Unternehmensregeln einhalten?

Sie legen für jeden Agenten Berechtigungen über Microsoft Entra fest. Sie entscheiden, welche Daten und Tools jeder Agent verwenden darf. Das System prüft jede Aktion und führt Protokolle für Audits.

Warum brauchen Sie Lifecycle-Logging in der Unternehmens-KI?

Lifecycle-Logging liefert Ihnen einen Nachweis für jede Aktion. Sie können Probleme analysieren, Compliance-Anforderungen erfüllen und zeigen, wie Ihre KI Entscheidungen getroffen hat. So entsteht Vertrauen und Ihr Geschäft bleibt geschützt.