Was genau ist Azure AI Foundry? Ist es nur ein weiterer Dienst von Microsoft oder steckt mehr dahinter? Im letzten Jahr hat Microsoft eine KI-Ankündigung nach der anderen gemacht. Da verliert man leicht den Überblick. Ich bin Mirko Peters von den Microsoft Knowledge Nuggets. Am Ende dieser Folge wissen Sie, was Foundry wirklich ist und warum es wichtig ist. Kein Marketing-Geschwaffel. Wir unterteilen es in klare Bereiche, was es ist, was drinsteckt und wie alles zusammenhängt. Warum alle über den Namen verwirrt sind. Die Verwirrung beginnt schon beim Namen. Foundry hatte mehr Namensänderungen, als ich zählen kann. Erst war es Cognitive Services, dann Azure AI Services, dann Azure AI Studio, dann Azure AI Foundry und seit Ende letzten Jahres offiziell Microsoft Foundry. Dasselbe Produkt, vier oder fünf Namen, etwa drei Jahre. Das allein ist schon verwirrend, aber es wird noch komplizierter.

Aktuell laufen zwei Versionen der Plattformen parallel. Die klassische Hub-basierte Architektur ist der alte Weg. Das neue Foundry-Projektmodell ist die moderne Version. Beide findet man unter derselben URL, ai.azure.com. Dort gibt es einen Umschalter, der zwischen zwei völlig unterschiedlichen Architekturen wechselt. Es ist nicht nur ein neues Design, sondern eine grundlegend andere Organisation im Hintergrund. Das verwirrt Anfänger, denn bei der Suche nach Hilfe findet man Artikel über Hubs und klassische Projekte. Diese Artikel sind zwar immer noch korrekt. Microsoft unterstützt beide Versionen, aber neue Funktionen, Agentenfähigkeiten und alles, worin Microsoft investiert, gibt es nur für Foundry. Projekte gibt es nur für Foundry-Projekte. Man könnte einem alten Tutorial folgen, ein Hub einrichten und dann feststellen, dass man die neuesten Tools nicht nutzen kann. Das ist wirklich ärgerlich.

Hier ist also mein Rat. Ignorieren Sie das alte Zeugel. Das moderne Foundry ist das, worauf Microsoft alles setzt. Wenn Sie heute neu anfangen, überspringen Sie die Hubs und nutzen Sie direkt Foundry-Projekte. Dort sind die neuen Funktionen zu finden. Was also Azure AI Foundry wirklich ist, fangen wir ganz von vorn an. Was ist Azure AI Foundry? Es ist eine einheitliche Plattform zum Erstellen, Testen und Bereitstellen von KI-Anwendungen an einem Ort. Das ist die einfachste Definition. Denn sie ist sich wie eine Fabrik vor. O-Materialien kommen rein. Modelle, Daten, Tools und fertige Anwendungen kommen raus. Chatbots, Co-Piloten, Automatisierungsagenten. Sie bauen die Fabrik nicht selbst. Microsoft betreibt sie. Sie gehen einfach hinein, nehmen, was sie brauchen und fangen an zu bauen. Dies ist kein einzelnes Produkt wie Word oder Excel. Foundry ist ein Container, der Modelle, Tools, Projekte und Sicherheit bündelt.

Erstellen Sie eine Foundry-Resource und Sie erhalten den gesamten Modellkatalog mit tausenden von Modellen. Sie erhalten Tools zum Erstellen von Agenten, Testumgebungen, Evaluierungstools und Sicherheit. Alles in einem Paket. Hier gibt es nun einen Wesenunterschied. Foundry ist für Entwickler gemacht. Wenn Sie Python oder C-Shack schreiben und individuelle KI-Lösungen mit Code erstellen möchten, ist dies Ihre Plattform. Suchen Sie nach einer Low-Code-Lösung per Drag & Drop. Das ist Co-Pilot Studio. Ein anderes Tool für eine andere Zielgruppe. Beides eine Berechtigung. Vor Foundry bedeutete die Erstellung einer KI-Anwendung in Azure die Bereitstellung separater Dienste. Sie mussten Azure Open AI Cognitive Services, Azure Machine Learning und Azure AI Search einrichten und dann benutzerdefinierten Codeschreiben alles zu verbinden. Eine Menge Arbeit. Foundry ersetzt all das. Erstellen Sie eine Ressource und alles ist bereits mit da verbunden.

Modelle sind vorhanden, Tools sind bereit, Sicherheit ist integriert. Sie können direkt mit dem Entwickeln beginnen. Genau das ist der Punkt. Es geht nicht darum, ein weiteres Tool hinzuzufügen, sondern den Aufwand für die Verwaltung zahlreicher separater Dienste zu beseitigen. Die wichtigste Organisationseinheit, Foundry-Projekt. Sie haben also Ihre KI-Fabrik. Aber eine Fabrik braucht Organisation. Dafür sind Foundry-Projekte da. Ein Foundry-Projekt ist ein isolierter Arbeitsbereich für eine spezifische KI-Lösung. Wenn Foundry die Fabrik ist, sind Projekte die individuellen Werkbänke. Jedes hat seine eigenen Werkzeuge, Materialien und Mitarbeiter, ohne sich gegenseitig zu stören. Das Team, das ein Kundensupport-Chatbot baut, wird nicht versehentlich das HR-Assistenten-Projekt beeinträchtigen. Was befindet sich innerhalb des Projekts? Eigene Modellbereitstellungen, Agenten, Wissensspeicher, Evaluierungen und Überwachung.

Alles, was Sie für eine Lösung benötigen, an einem Ort. Hier ist die grundlegende Struktur. Projekte befinden sich innerhalb einer Foundry-Ressource. Die Ressource ist die Abrechnungs- und Sicherheitsgrenze, quasi das Gebäude. Projekte sind die Räume darin. Ein Gebäude, ein Haupteingang, eine Sicherheitszentrale, eine Rechnung. Aber jeder Raum hat seinen eigenen Zweck und sein eigenes Team. Nehmen wir zum Beispiel ein Unternehmens-Contoso, das drei KI-Lösungen entwickelt. Einen Kundensupport-Agenten, einen HR-Assistenten und ein System zur Dokumenten-Fahrung. Mit Foundry erstellen Sie eine Ressource für das gesamte Unternehmen und dann drei Projekte darin. Jedes Projekt hat seine eigenen Modelle, Agenten und Wissensspeicher. Teams arbeiten unabhängig voneinander, ohne sich in die Quere zu kommen. Das ist wichtig, weil verschiedene Teams unterschiedliche Zugriffsberechtigungen. Das Kundensupport-Team muss keine HR-Dokumente sehen.

Das Team für Dokumentenverarbeitung benötigt keine Erstattungsrichtlinie. Projekte bieten Ihnen diese Isolierung. Gleichzeitig behält die IT die zentrale Kontrolle durch die Verwaltung einer Ressource, einer Sicherheitsrichtlinie und eines Budgets. Teamautonomie bei zentraler Governance. Das Herzstück von Foundry, der Modellkatalog. Betrachten Sie es einmal so. Jedes Projekt benötigt ein Gehirn. In Foundry lebt dieses Gehirn im Modellkatalog. Über 11.000 Modelle und das ist kein Tippfehler. Sie erhalten OpenAI-Modelle wie GPT-4O und GPT-4.1, Meta-Slama-Familie, Mistral, DeepSeq, Microsofts eigene Fie-Modelle, Anthropics Cloud, Kohere sowie Modelle für Text, Bilder, Code und Embeddings. Dies ist derzeit der umfangreichste Modellkatalog, den Sie auf irgendeiner Cloud-Plattform finden werden. Und da teilen wir diese in zwei Grundtypen. Große Sprachmodelle und kleine Sprachmodelle. Die großen verfügen über Milliarden von Parametern.

GPT-4 hat über eine Billion, wodurch Sie komplexe Schlussfolgerungen, kreatives Schreiben und nuancierte Konversationen bewältigen können. Aber sie sind teuer und langsam. Kleine Modelle haben weitaus weniger Parameter. Microsofts V3 hat etwa 3,8 Milliarden winzig im Vergleich zu GPT-4, aber es ist schnell und kostengünstig. Für fokussierte Aufgaben wie das Extrahieren von Daten aus einem Formular oder das Beantworten einer einfachen Frage funktioniert das hervorragend. Hier ist der praktische Nutzen. Sie können ein Modell in Sekunden bereitstellen. Wählen Sie eines aus dem Katalog, klicken Sie auf Bereitstellen und es ist einsatzbar. Keine Hardware-Bereitstellung, keine Netzwerkkonfiguration, kein stundenlanges Warten auf die Einrichtung bis Sekunden. Und bevor Sie sich festlegen, können Sie es im Playground testen. Probieren Sie verschiedene Prompts aus, passen Sie Einstellungen wie Temperatur und maximale Token an und sehen Sie die Antworten sofort.

Es ist wie eine Probefahrt, bevor Sie das Auto kaufen. Sie sind nicht an ein einziges Modell gebunden, was ein großer Vorteil gegenüber der direkten Nutzung der OpenAI-API ist. Mit Foundry können Sie GPT-4O für komplexe Überlegungen nutzen, bei denen Qualität zählt, viel für einfache Klassifizierungen, bei denen Geschwindigkeit und Kosten wichtig sind und Metaslama für Compliance, falls Sie Modelle in Ihrem eigenen Rechenzentrum betreiben müssen. Sie wechseln je nach Aufgabe. Foundry enthält außerdem ein Vergleichstool, das Ihnen hilft, Modelle nebeneinander zu bewerten. Vergleichen Sie nach Qualität, wie präzis sind die Antworten? Nach Sicherheit, wie gut widersteht, ist Prompt Injection-Angriffen? Nach Kosten, der Preis pro Million Token? Nach Geschwindigkeit, wie schnell generiert es die Ausgabe? Das macht die Modellauswahl von einem Ratespiel zu einer fundierten Entscheidung. Sie wählen das richtige Werkzeug für die jeweilige Aufgabe, nicht nur das, über das alle reden.

Das Erstellen von KI-Agenten, Foundry's Killer Feature. Ein Modell allein ist nicht sehr nützlich. Sie können im Playground mit ihm chatten, Fragen stellen und sehen, was es generiert, aber das ist nur in Unterhaltung. Die wahre Magie geschieht, wenn Sie etwas bauen, das tatsächlich Dinge tun kann. Und genau hier kommen Agenten ins Spiel. Ein Agent ist mehr als ein Chatbot. Ein Chatbot beantwortet Fragen. Ein Agent ergreift Maßnahmen. Es kann das Internet durchsuchen, Dateien lesen, Berechnungen durchführen, sich daran erinnern, was Sie im letzten Wochen gesagt haben und eine Reihe von Anweisungen befolgen. Es ist, als hätten Sie einen Assistenten, der nicht nur redet, sondern wirklich Dinge erledigt. Foundry bietet Ihnen fünf Komponenten zum Erstellen eines Agenten. Lassen Sie mich jeder Einzelne drücken. Erstens Anweisungen. Hier legen Sie fest, was der Agent tun und wie er sich verhalten soll.

Stellen Sie es sich wie eine Stellenbeschreibung vor. Sie könnten sagen, du bist ein Kundendienstmitarbeiter, sei freundlich und professionell. Antworte nur Fragen zu unseren Rückgaberichtlinien. Wenn du die Antwort nicht weißt, sage es und leite es an einen Menschen weiter. Ohne Anweisungen tut der Agent, was auch immer dem Modell gerade in den Sinn kommt. Mit Anweisungen hat er ein klares Ziel. Zweitens das Modell. Das ist das Gehirn. Es verarbeitet jede Anfrage und generiert Antworten. Sie wählen das Modell aus, GPT 4O für komplexes Denken, 5 für einfache Aufgaben, was auch immer passt. Das Modell macht den Agenten intelligent, aber es ist nur ein Teil davon. Werkzeuge. Das ist der Bereich, in dem der Agent seine Hände bekommt. Werkzeuge sind Fähigkeiten, die er nutzen kann, um Dinge zu erledigen. Die Websuche ermöglicht es ihm, aktuelle Informationen nachzuschlagen. Der Codeinterpreter erlaubt ihm, Mathematik zu betreiben und Berechnungen durchzuholen.

Die Dateisuche ermöglicht es ihm, von ihm hochgeleidene Dokumente zu finden. Ohne Werkzeuge kann der Agent nur Text generieren. Mit Werkzeugen kann er in der Welt agieren. Viertens Wissen. Das sind die Informationen, auf die der Agent zugreifen kann. Sie laden Dokumente, PDFs, JSON-Dateien oder andere Daten hoch, die ihr Agent benötigt, um Fragen präzise zu beantworten. Foundry verwendet im Hintergrund Azure AI Search, um diese Daten zu indizieren und durchsuchbar zu machen. Wenn ein Kunde nach einer bestimmten Richtlinie fragt, rät der Agent nicht? Er findet das tatsächliche Dokument und liest es. Fünftes Gedächtnis. Dies ermöglicht es dem Agenten, sich über Konversationen hinweg zu erinnern. Sie sprechen heute mit ihm und er merkt sich ihre Präferenzen. Sie kommen morgen wieder und er macht genau dort weiter, wo sie aufgehört haben. Er speichert Chat-Zusammenfassungen und Benutzerpräferenzen, sodass sich das Erlebnis persönlich und kontinuierlich anfühlt.

Hier ist ein konkretes Beispiel aus meiner Recherche. Jemand hat in Foundry einen Agenten zur Geschenkeverwaltung erstellt. Die Idee ist einfach, sie möchten den Überblick über Geschenke für ihre Familie behalten, was sie ihnen in der Vergangenheit gegeben haben, was sie mögen, was nicht und wie viel sie ausgeben. Der Agent hat also die Anweisung, du hilfst bei der Geschenkplanung. Schlage niemals etwas vor, das sie bereits erhalten haben. Es nutzt GPT-4 als Gehirn, Websuche für Geschenkideen, Dateisuche mit Profilen aller Familienmitglieder inklusive Vorlieben, Abneigungen und Geschenkverlauf der letzten drei Jahre, einen Code-Interpreter für Budgets sowie einen Speicher. Wenn sie das nächste Mal ein Gespräch öffnen, weiß es also noch, dass sie ein Geburtstagsgeschenk für ihren Sohn Adam gesucht. Sie erstellen und testen all das in der Agent-Spielwiese. Es ist eine visuelle Schnittstelle, in der sie jede Komponente konfigurieren, die Antworten des Agenten testen und genau sehen, welche Tools er warum verwendet hat.

Sobald es funktioniert, können sie es bereitstellen. Foundry bietet ihnen einen APN-Punkt, den sie von jeder Anwendung aus aufrufen können oder sie veröffentlichen ihn direkt im Microsoft Teams als Co-Pilot-Agent. So gelangt ihr Agent von der Idee bis zur Produktion, ohne dass sie eine einzige Zeile Infrastrukturcode schreiben müssen. Unter der Haube Architektur

Was passiert eigentlich unter der Haube? Hier ist die Architektur einfach erklärt. Wenn Sie eine Foundry-Ressource erstellen, richtet Azure die gesamte Infrastruktur automatisch ein, sodass Sie keinen Speicher bereitstellen, keine Protokollierung konfigurieren und keine Sicherheitsgruppen einrichten müssen. Alles geschieht im Hintergrund. Es wird ein Speicherkonto für Dateien und Protokolle erstellt, die Überwachung eingerichtet und die Identität konfiguriert. Sie müssen also nur die Ressource erstellen und können mit dem Aufbau beginnen. Foundry verwendet den Ressourcentyp Cognitive Services, denselben wie Azure OpenAI und ältere KI-Dienste wie Vision und Speech. Die alte Hub-basierte Architektur nutzte Machine Learning Services, einen völlig anderen Anbieter mit anderer Abrechnung, Netzwerkstruktur und Governance. Das ist wichtig, da Foundry in einem einfachen Teil der Azure-Infrastruktur angesiedelt ist.

Projekte sind untergeordnete Ressourcen der Foundry-Ressource. Sie teilen sich also dieselbe Identität und Sicherheitsgrenze. Wenn Sie die Zugriffskontrolle auf Foundry-Ebene einrichten, gilt diese für alle Projekte, sodass Sie die Sicherheit nicht für jedes Einzelnen konfigurieren müssen. Aber falls Sie projektspezifische Berechtigungen benötigen, können Sie diese ebenfalls hin. Foundry arbeitet nicht allein. Es verbindet sich mit anderen Azure-Diensten, wobei Azure AI Search der wichtigste ist, da Ihre Agenten darüber Wissen finden und abrufen und abrufen. Key Vault speichert Geheimnisse und LPI-Schlüssel sicher und Speicherkonten halten Dateien, Protokolle und Vektorindizes bereit. Diese Verbindungen werden über sogenannte Connections in Foundry verwaltet vor konfigurierte Links, mit denen Ihre Agenten auf diese Ressourcen zugreifen können, ohne dass Sie Anmelde-Daten manuell verwalten müssen.

Der Foundry-Agent-Service ist die Laufzeitumgebung, die Ihre Agenten tatsächlich hostet. Betrachten Sie ihn als den Maschinenraum. Wenn ein Benutzer einer Anfrage ist, koordiniert der Agent-Service den gesamten Ablauf. Er empfängt die Anfrage, prüft die Anweisungen, ruft das Modell auf, aktiviert die richtigen Tools, ruft Wissen ab und generiert eine Antwort. Er führt zu dem Sicherheitsfilter aus, um schädliche Inhalte zu erkennen und die Skalierung zu verwalten. Wenn also tausend Benutzer gleichzeitig auf Ihren Agenten zugreifen, wird automatisch die nötige Kapazität bereitgestellt. Alles läuft innerhalb der Azure-Sicherheitsarchitektur auf Enterprise-Niveau. Entra-ID übernimmt die Authentifizierung. Verwaltete Netzwerke halten den Datenverkehr privat und die rollenbasierte Zugriffssteuerung stellt sicher, dass nur autorisierte Personen Agenten ändern können. Content-Sicherheitsfilter blockieren unangemessene Antworten.

Es ist dieselbe Sicherheitsinfrastruktur, die auch Microsofts eigene Dienste schützt. Noch ein wichtiger Hinweis, die alte Hub- und Projektarchitektur existiert weiterhin. Wenn Sie Azure AI Foundry schon länger nutzen, haben Sie vielleicht noch Hubs eingerichtet, die weiterhin mit Microsoft Support funktionieren. Sie erhalten jedoch keine neuen Agentenfunktionen wie den Agent-Playground, den Agent-Service oder die Speicherfunktion. All dies ist ausschließlich in den neuen Foundry-Projekten verfügbar. Wenn Sie also neu starten oder Agenten erstellen möchten, verwenden Sie die neuen Projekte. Bauen Sie nicht auf der alten Grundlage auf. Wie alles zusammenhängt. Der große Überblick. Was passiert eigentlich, wenn jemand eine Foundry-Anwendung nutzt? Stellen Sie sich vor, ein Benutzer tippt eine Frage ein und diese Frage erreicht Janagen. Der Agent prüft seine Anweisungen, wählt das richtige Modell aus und beginnt mit der Verarbeitung.

Dabei rät er nicht einfach die Antwort. Er greift auf Azure AI Search zu, um relevantes Wissen aus Ihren Dokumenten zu finden, ruft ein Tool wie die Websuche für aktuelle Informationen auf, verarbeitet all diesen Kontext und generiert eine Antwort. Anschließend speichert er das Gespräch im Gedächtnis, damit er sich beim nächsten Mal daran erinnert, wer Sie sind und was Sie besprochen haben. Das ist der durchgängige Prozess. Vor Foundry benötigten Sie fünf separate Azure-Dienste und benutzerdefinierten Code, um dies zu ermöglichen. Azure Open AI für das Modell, AI Search für den Wissensabruf, einen separaten Dienst für die Websuche, Speicher für Protokolle und Dateien, sowie Keyvoid für Geheimnisse. Da mussten Sie Code schreiben, um all das miteinander zu verknüpfen, die Authentifizierung zu handhaben, Fehler zu verwalten und das Monitoring einzurichten. Foundry erledigt all das sofort einsatzbereit.

Sie konfigurieren einfach die Komponenten und schon läuft die Agent. Das Wichtigste ist, alles interagiert miteinander. Ändern Sie das Modell, ändern Sie damit die Kosten und die Genauigkeit jeder Antworten. Fügen Sie bessere Wissensquellen hinzu und Ihre Antworten werden präziser. Aktivieren Sie das Gedächtnis und die Erfahrung fühlt sich persönlich statt robotisch an. Dies sind keine isolierten Entscheidungen. Sie bilden ein System und Foundry gibt Ihnen die Steuerelemente an die Hand, um dieses System für Ihre spezifischen Anforderungen anzupassen. Deshalb gehen Unternehmen von Pilotprojekten zur Produktion über. Foundry bietet das Grundgerüst, um vertrauenswürdige KI-Anwendungen zu erstellen. Sicherheit, Überwachung und Evaluierung sind bereits integriert. Die fangen nicht bei Null an. Sie nutzen eine Plattform, die die schwierigen Aufgaben übernimmt, damit Sie sich auf Ihre Anwendung konzentrieren können.

Der Einstieg Ihrer ersten Schritte. Wo fängt man also an? Gehen Sie zu ai.azure.com und erstellen Sie Ihre erste Foundry-Ressource. Die benötigen ein Azure-Abonnement. Falls Sie keines haben, registrieren Sie sich für ein kostenloses Konto mit Startguthaben zum Experimentieren. Die gesamte Einrichtung dauert etwa eine Minute. Erstellen Sie als nächstes ein Projekt innerhalb dieser Ressource und geben Sie ihm einen passenden Namen für Ihr Vorhaben. Wählen Sie dann ein Modell aus dem Katalog auf. Ich empfehle ein Start mit einem Modell, das für die meisten Experimente leistungsfähig genug ist. Sie können es mit einem Tick bereitstellen. Öffnen Sie danach die Agent-Spielwiese und erstellen Sie einen einfachen Agenten. Geben Sie ihm Anweisungen wie Du bist ein hilfreicher Assistent, der Fragen zu Unternehmensrichtlinien beantwortet. Fügen Sie dann die Websuche als Werkzeug hinzu. Testen Sie ihn, indem Sie eine Frage stellen und die Ablaufverfolgung, Beobachtung zu sehen, welche Tools er warum verwendet hat.

Versuchen Sie nicht, alles auf einmal zu bauen. Wählen Sie einen Anwendungsfall, vielleicht einen Dokumenten-Q&A-Bot für Ihr Mitarbeiterhandbuch und fangen Sie klein an. Bringen Sie ihn zum Laufen und bauen Sie ihn dann weiter. Fügen Sie Dateisuche mit echten Dokumenten hinzu, geben Sie ihm Gedächtnis für Benutzer und nutzen Sie den Code-Interpreter für Berechnungen. Das Wichtige dabei ist, Foundry enthält einen integrierten KI-Chatboard, der Fragen zur Plattform selbst beantwortet. Wenn Sie nicht weiterkommen, fragen Sie ihn Dinge wie, welche Modelle sind in meiner Region verfügt? Oder wie füge ich meinem Agenten ein Gedächtnis hinzu? Er durchsucht die Dokumentation und liefert sofort eine Antwort, als hätten Sie einen Support-Ingenieur direkt im Portal. Das ist das System, eine einheitliche Plattform, die Modelle, Projekte, Agentenwissen und Sicherheit zu einem funktionierenden Ganzen verbindet.

Wenn Sie sehen, wie alles ineinander greift, verfliegt die Verwirrung. Foundry ist nicht nur ein weiteres Tool, es ist die Werkstatt, in der Sie KI-Anwendungen bauen. Das Fazit lautet, Ihr größter Erfolg heute ist ganz einfach. Erstellen Sie ein Foundry-Projekt und bauen Sie einen einzigen Agenten. Das war's. Wenn Ihnen dies geholfen hat, abonnieren Sie den Kanal für weitere einfache Erklärungen wie diese und teilen Sie diese Folge mit jemandem, der auch verwirrt von Microsofts KI-Angebot ist. Er wird es Ihnen danken.