Hosted agent
Konzept
Ein Agententyp im Foundry Agent Service, bei dem Sie Ihren eigenen Code und Ihr eigenes Framework mitbringen und Foundry ihn in einer isolierten Sitzung ausführt, skaliert und ihm eine eigene Identität gibt.
Beschreibung
Ein Hosted Agent ist ein Agententyp im Foundry Agent Service, bei dem der Entwickler den Code und das Framework bereitstellt und die Plattform ihn ausführt. Microsoft Learn beschreibt Hosted Agents als containerisierte agentische KI-Anwendungen, die im Foundry Agent Service laufen. Im Gegensatz zu promptbasierten Agenten, die nur über Prompts und Werkzeugeinstellungen im Portal definiert werden, ist der Code eines Hosted Agent selbst ein Container-Image. Der Entwickler wählt das Framework und steuert das Laufzeitverhalten, während die Modelle aus dem Modellkatalog von Foundry stammen und der benutzerdefinierte Code die Orchestrierung übernimmt.
Der Hauptgrund für einen Hosted Agent ist die Kontrolle darüber, wie der Agent arbeitet. Zu den in der Dokumentation genannten unterstützten Optionen gehören Microsoft Agent Framework, LangChain und LangGraph sowie benutzerdefinierter Code in Python und C#. Die Plattform übernimmt querschnittliche Aufgaben, die sonst im Team anfallen würden: Containerisierung, Einrichtung des Webservers, Sicherheit, Speicherpersistenz, Skalierung, Instrumentierung und Rollbacks von Versionen. Diese Aufteilung ermöglicht es Entwicklern, sich auf die Agentenlogik statt auf die Hosting-Infrastruktur zu konzentrieren.
Im Betrieb erhält jeder Hosted Agent eine eigene Microsoft Entra-Identität und einen dedizierten Endpunkt. Jede Sitzung läuft in einer VM-isolierten Sandbox mit persistentem Dateisystem, und der Dienst unterstützt Scale-to-Zero. Versionen sind unveränderlich, und ein Endpunkt bedient jeweils genau eine Version ohne Traffic-Aufteilung. Für die Bereitstellung sind ein Container-Image in der Azure Container Registry und ein Foundry-Projekt erforderlich. Die Abrechnung richtet sich nach CPU- und Speichernutzung während aktiver Sitzungen. Bei Geheimnissen rät die Dokumentation davon ab, sie in Images oder Umgebungsvariablen abzulegen, und empfiehlt stattdessen verwaltete Identitäten und Key Vault.
Typische Entscheidungen rund um Hosted Agents betreffen die Wahl zwischen einem Prompt-Agenten und einem Hosted Agent. Ein Prompt-Agent eignet sich für Fälle, in denen im Portal konfigurierte Prompts und Werkzeugeinstellungen ausreichen. Ein Hosted Agent passt, wenn eine benutzerdefinierte Orchestrierung, ein bestimmtes Framework oder die volle Kontrolle über die Laufzeit benötigt wird. Da Versionen unveränderlich sind und ein Endpunkt jeweils auf eine Version zeigt, werden Rollouts und Rollbacks durch Umschalten der Versionen statt durch Aufteilen des Datenverkehrs abgewickelt.
Die M365.FM-Episode „Enterprise AI Agent Fabric: Architecture Beyond Chatbots“ ordnet Hosted Agents in den umfassenderen Foundry-Workflow ein. Laut der Episode verbindet Foundry Modelle, Wissen und Werkzeuge in einer einzigen Laufzeitumgebung und unterstützt einen Workflow aus Erstellen, Testen, Bereitstellen und Überwachen für die Agentenentwicklung. In der Übersicht zu diesem Workflow kann das Erstellen eines Agenten bedeuten, einen Prompt-Agenten im Portal oder mit dem SDK zu definieren oder einen Hosted Agent zu schreiben, der die Responses API aufruft. Die Episode nennt anschließend das Testen im Agents-Playground oder lokal, das Tracing jedes Modellaufrufs, jeder Werkzeugnutzung und jeder Entscheidung, das Ausführen von Evaluierungen zur Erkennung von Regressionen sowie die Optimierung der Anweisungen eines Hosted Agent mit dem Agent Optimizer.
Kurz gesagt verbindet ein Hosted Agent vom Entwickler verantworteten Code mit einer verwalteten Laufzeit: Container und Framework wählt das Team, während Isolation, Identität, Skalierung und Versionierung vom Foundry Agent Service bereitgestellt werden.
Überblick, mit KI aus M365.FM-Folgen und den Fakten dieser Seite zusammengestellt. Du kannst ihn unten über „Bearbeiten“ verbessern.
| Typ | Konzept |
|---|
Häufige Fragen
Mit KI markierte Fragen wurden mit KI aus den Fakten dieser Seite geschrieben.
Was ist der Unterschied zwischen einem Hosted Agent und einem Prompt-Agenten? (KI)
Ein Prompt-Agent wird nur über Prompts und Werkzeugeinstellungen im Portal definiert, während der Code eines Hosted Agent ein Container-Image ist, dessen Framework und Laufzeitverhalten der Entwickler steuert.
Welche Frameworks kann ein Hosted Agent verwenden? (KI)
Microsoft Learn nennt Microsoft Agent Framework, LangChain und LangGraph sowie benutzerdefinierten Code in Python und C#.
Wie werden Hosted Agents isoliert und identifiziert? (KI)
Jeder Agent erhält eine eigene Microsoft Entra-Identität und einen dedizierten Endpunkt, und jede Sitzung läuft in einer VM-isolierten Sandbox mit persistentem Dateisystem.
Community-Wiki
Oben die Kurzinfo, unten das Wissen der Community: ergänze praktische Tipps, Beispiele oder Korrekturen. Neue Beiträge werden zuerst geprüft, bewährte Mitglieder veröffentlichen direkt.
Experten und Firmen zu diesem Thema
Dieses Thema hat noch niemand im Profil angegeben. Trag es in deinem Profil ein.
Gepflegt von Mirko Peters (Microsoft MVP) · Zuletzt aktualisiert: