Willst du die volle Kontrolle über deine KI-Modelle behalten und dabei maximale Datensicherheit genießen? In dieser Session zeigt Patrick Wahlmöller, wie Microsoft Foundry Local funktioniert und wie du künstliche Intelligenz ganz einfach auf deiner eigenen Hardware betreibst. Erfahre, wie du Sprachmodelle offline nutzt und welche Hardware du wirklich brauchst, um flüssige Ergebnisse zu erzielen.

In diesem ausführlichen Video erfährst du alle Details zur lokalen KI-Runtime von Microsoft. Patrick führt uns durch die wichtigsten CLI-Befehle, zeigt die Installation via Winget und demonstriert, wie man verschiedene Modelle wie Phi-Mini oder Deepsig effizient verwaltet. Ein besonderes Highlight ist die Anbindung an Open WebUI, womit du eine Benutzeroberfläche wie bei ChatGPT erhältst, während alles zu 100 Prozent lokal auf deinem Rechner läuft.

Wir werfen einen genauen Blick auf die Hardware-Voraussetzungen, von der GPU-Leistung bis zum benötigten VRAM, und diskutieren, warum lokale KI besonders für sensible Unternehmensdaten und Szenarien ohne stabile Internetverbindung entscheidend ist. Zudem gehen wir tief auf das Thema der digitalen Souveränität ein und vergleichen die Vor- und Nachteile zwischen Cloud-Lösungen und dem lokalen Betrieb im eigenen Rechenzentrum oder auf dem Laptop.

Chapters:
0:00 Begrüßung und Einführung in Foundry Local
3:15 Was ist Foundry Local eigentlich?
7:30 Installation und erste Schritte in der CLI
11:45 Hardware-Check: GPU, VRAM und Performance
16:20 Modelle verwalten und herunterladen
21:00 Praxis-Test: Lokale KI im Einsatz
26:40 Integration von Open WebUI für ein besseres Interface
31:15 Live-Demo: Chatten ohne Internetverbindung
36:50 Vorteile von lokaler KI gegenüber der Cloud
42:10 Digitale Souveränität und Datenschutz für Unternehmen
47:30 Q&A: Zukunftsausblick und Enterprise Readiness
51:51 Zusammenfassung und Abschluss

Wenn dir dieses Video geholfen hat, dann abonniere unseren Kanal für mehr Experten-Wissen rund um Microsoft 365 und moderne KI-Lösungen. Schreib uns deine Erfahrungen oder Fragen zur lokalen KI gerne direkt in die Kommentare unter dem Video.

#KI #Microsoft #FoundryLocal #Datenschutz #KünstlicheIntelligenz