Przyspiesz trenowanie AI dzięki notatnikom Microsoft Fabric
By Mirko Peters ·
Projekty sztucznej inteligencji i uczenia maszynowego wymagają ogromnej mocy obliczeniowej, bezproblemowej integracji danych i wydajnych procesów przetwarzania. …
Automatically translated with AI from the original post. Read the English original
Projekty sztucznej inteligencji i uczenia maszynowego wymagają ogromnej mocy obliczeniowej, bezproblemowej integracji danych i wydajnych procesów przetwarzania. Dotychczas specjaliści ds. danych borykali się z narzutem związanym z przenoszeniem dużych zbiorów danych między różnymi środowiskami, zarządzaniem rozproszonymi zestawami narzędzi i znacznymi opóźnieniami podczas sesji trenowania. Dziś mamy zunifikowane rozwiązanie, które łączy skalowalną inżynierię danych ze zwinnym tworzeniem modeli uczenia maszynowego. Dzięki notatnikom Microsoft Fabric zespoły mogą usprawnić cały proces operacyjny: od surowego pozyskiwania danych po wdrażanie modeli.
W tym wpisie na blogu rozwiniemy główne zagadnienia omówione w naszym odcinku podcastu Train AI Models with Microsoft Fabric Notebooks. Szczegółowo omówimy konfigurację środowiska, efektywne przygotowywanie zbiorów danych, uruchamianie zadań trenowania, zarządzanie modelami oraz praktyki, które pozwolą przyspieszyć Twoje procesy AI.
Konfiguracja notatników Fabric
Skonfigurowanie obszaru roboczego w notatnikach Fabric daje solidne podstawy do trenowania modeli AI. Ta sekcja zawiera przegląd notatników Fabric i prowadzi Cię krok po kroku, od utworzenia konta po uruchomienie pierwszego notatnika. Zobaczysz, jak łatwo połączyć się z danymi i wykorzystać platformę Spark do zaawansowanej analityki.
Dostęp do Microsoft Fabric
Tworzenie konta
Na początek potrzebujesz dostępu do Fabric. Możesz utworzyć bezpłatne konto Fabric, które pozwala zalogować się do aplikacji Fabric. Jeśli korzystasz już z usługi Microsoft Power BI, możesz użyć istniejącego konta Power BI. Ten prosty proces gwarantuje, że od razu zaczniesz pracę z notatnikami.
Wskazówka: Użytkownicy nie zgłaszali poważnych problemów z dostępem, więc rejestracja powinna przebiec bez zakłóceń.
Poruszanie się po obszarze roboczym
Po zalogowaniu zobaczysz obszar roboczy Fabric. Tutaj możesz organizować projekty, zarządzać zasobami i przechodzić do magazynu typu lakehouse. Pulpit obszaru roboczego pomaga szybko znaleźć notatniki, zbiory danych i inne zasoby. Możesz również sprawdzić pojemność obszaru roboczego oraz ustawienia, aby upewnić się, że spełniasz wymagania projektów AI.
| Wymaganie | Opis |
|---|---|
| Microsoft Fabric | Skonfiguruj Fabric z pojemnością F64. |
| Lakehouse | Dodaj lakehouse do notatnika i pobierz dane z publicznego obiektu blob. |
| Azure AI Search | Skonfiguruj usługę Azure AI Search. |
| Copilot | Upewnij się, że ustawienie dzierżawy dla usługi Copilot jest włączone. |
| Pojemność obszaru roboczego | Użyj obsługiwanej pojemności (F2 lub wyższej albo P1 lub wyższej). |
| Ustawienia międzyregionowe | W razie potrzeby włącz ustawienia dzierżawy dotyczące przetwarzania danych międzyregionowo. |
Uruchamianie notatnika
Wybór jądra
Po skonfigurowaniu obszaru roboczego możesz utworzyć nowy notatnik. Podczas uruchamiania notatnika wybierasz jądro. Jądro określa język programowania i środowisko. Notatniki Fabric obsługują Python i inne języki, dzięki czemu są elastyczne dla różnych zadań AI.
Konfiguracja bibliotek
Zanim rozpoczniesz analizę, może być konieczne zainstalowanie lub zaimportowanie bibliotek. Notatniki Fabric znacznie upraszczają ten proces. Biblioteki do nauki o danych, uczenia maszynowego lub wizualizacji możesz dodać bezpośrednio w notatniku. Dzięki temu możesz korzystać z platformy Spark do przetwarzania dużych zbiorów danych i płynnie łączyć się z lakehouse.
| Funkcja | Opis |
|---|---|
| Elastyczność językowa | Obsługuje Python i inne języki na potrzeby przepływów pracy w nauce o danych. |
| Przetwarzanie danych na dużą skalę | Wykorzystuje platformę Spark do wydajnej obsługi dużych zbiorów danych. |
| Interaktywność | Pozwala uruchamiać kod i widzieć wyniki w czasie rzeczywistym. |
| Bezproblemowa integracja z magazynem | Łączy się bezpośrednio z lakehouse, dzięki czemu pracujesz z danymi tam, gdzie się znajdują. |
Tworząc nowy notatnik, unikasz kłopotliwego przenoszenia danych między narzędziami. Możesz przetwarzać, analizować i wizualizować dane w jednym miejscu. Ta integracja oszczędza czas i ogranicza liczbę błędów. Jeśli dopiero zaczynasz pracę z Fabric, możesz odczuć krzywą uczenia, jednak zunifikowany obszar roboczy i bezpośredni dostęp do danych znacznie ułatwiają proces.
Uwaga: Jeśli pracujesz przy dużych projektach lub w zespołach, notatniki Fabric pomagają unikać rozproszonych przepływów pracy. Od początku możesz utrzymać porządek i wydajność w całym procesie.
Przygotowanie danych w notatnikach Fabric
Przygotowanie zbioru danych w notatnikach Fabric stanowi solidną podstawę do skutecznego trenowania modeli AI. Każdy etap, od pozyskania danych po wizualizację, można usprawnić dzięki wbudowanym narzędziom i funkcjom opartym na Spark.
Importowanie danych
Łączenie z lakehouse
Zaczynasz od połączenia notatnika z lakehouse. Dzięki temu połączeniu masz bezpośredni dostęp do swoich zbiorów danych, więc nie musisz przenosić plików między systemami. Możesz pracować z danymi tam, gdzie się znajdują, co oszczędza czas i ogranicza liczbę błędów. Lakehouse przechowuje zbiór danych w tabelach delta, dzięki czemu łatwo ładować i aktualizować informacje w miarę potrzeby.
Wczytywanie danych za pomocą Spark
Po nawiązaniu połączenia używasz Spark do pozyskiwania danych. Spark umożliwia szybkie i wydajne wczytywanie dużych zbiorów danych. Możesz odczytywać dane z wielu źródeł, w tym z plików CSV, plików Parquet lub istniejących tabel w lakehouse. Spark przejmuje ciężką pracę, dzięki czemu możesz skupić się na danych, zamiast martwić się limitami pamięci.
Wskazówka: Użyj ramek danych Spark (Spark DataFrames), aby przetwarzać zbiór danych na dużą skalę. Takie podejście pozwala obsługiwać nawet największe zbiory danych bez spowalniania pracy.
Czyszczenie danych
Obsługa brakujących wartości
Oczyszczenie zbioru danych to kluczowy krok przed trenowaniem jakiegokolwiek modelu. Narzędzie Data Wrangler możesz uruchomić z poziomu notatnika Fabric, aby przeanalizować zbiór danych i wykryć brakujące wartości. Data Wrangler automatycznie generuje kod dla typowych zadań czyszczenia, takich jak uzupełnianie brakujących wartości czy usuwanie niekompletnych wierszy. Te kroki czyszczenia możesz wyeksportować jako funkcje wielokrotnego użytku w pandas lub PySpark, co usprawnia cały przepływ pracy.
Inżynieria cech
Inżynieria cech pozwala tworzyć nowe zmienne na podstawie istniejącego zbioru danych. W notatnikach Fabric możesz użyć narzędzi opartych na Pythonie, aby przekształcać dane i budować cechy poprawiające dokładność modelu. Spark ułatwia zastosowanie tych przekształceń do całego zbioru danych, nawet jeśli zawiera on miliony wierszy.
Najlepsza praktyka:
- Używaj narzędzi Spark i Python do czyszczenia i przekształcania zbioru danych.
- Twórz eksperymenty, aby testować różne zestawy cech.
- Śledź przebiegi i wyniki za pomocą MLflow w interfejsie użytkownika Fabric.
Eksploracja danych
Statystyki podsumowujące
Eksploracja zbioru danych pomaga zrozumieć jego strukturę i jakość. Bezpośrednio w notatniku możesz wygenerować statystyki podsumowujące, takie jak średnia, mediana czy odchylenie standardowe. Statystyki te dają szybki przegląd zbioru danych i wskazują problemy wymagające uwagi.
Wizualizacje
Wizualizacja danych ożywia zbiór danych. Notatniki Fabric obsługują wbudowane funkcje wizualizacji i integrują się z bibliotekami takimi jak Matplotlib i Bokeh. Wyniki w postaci tabel możesz zamienić na wykresy bez pisania dodatkowego kodu. Funkcja display pozwala wchodzić w interakcję z danymi i łatwo zauważać trendy oraz wartości odstające.
Uwaga: Interaktywna wizualizacja danych pomaga podejmować lepsze decyzje podczas przygotowywania zbioru danych do trenowania modeli AI.
Trenowanie modeli w Fabric
Pisanie kodu trenującego
Używanie Pythona lub R
Kod trenujący model możesz pisać w kilku językach w notatnikach Microsoft Fabric. Platforma obsługuje:
- PySpark (Python)
- Spark (Scala)
- Spark SQL
- SparkR (R)
Większość użytkowników wybiera Pythona ze względu na jego elastyczność i bogaty ekosystem. Jeśli wolisz narzędzia statystyczne, możesz także użyć R. PySpark pozwala skalować zadania uczenia na wiele węzłów, co jest ważne przy dużych zbiorach danych. Python dobrze sprawdza się w uczeniu głębokim i tworzeniu modeli PyTorch. Jeśli chcesz użyć PyTorch, możesz zainstalować bibliotekę i od razu zacząć budować model. Do uczenia statystycznego możesz też użyć SparkR, a do szybkich zapytań o dane – Spark SQL.
Struktura komórek kodu
Kod warto uporządkować w jasne, logiczne komórki. Zacznij od wczytania i czyszczenia danych. Dodaj komórki dla inżynierii cech i analizy eksploracyjnej. Umieść kod trenowania modelu w osobnej komórce. Taka struktura ułatwia debugowanie i ponowne uruchamianie fragmentów eksperymentu uczenia maszynowego bez powtarzania wcześniejszych kroków. Możesz też dodać komórki markdown, aby wyjaśnić swoją logikę i udokumentować eksperymenty. Dzięki temu notatniki są czytelne i łatwe do udostępniania innym.
Dobór algorytmu
Wybór modeli
Musisz wybrać odpowiedni algorytm do swojego zadania. Regresja logistyczna dobrze sprawdza się w problemach klasyfikacji binarnej. Do bardziej zaawansowanych modeli możesz też użyć bibliotek takich jak scikit-learn, PySpark ML, TensorFlow czy PyTorch. Jeśli chcesz zbudować model w PyTorch, możesz skorzystać z obsługi GPU w usłudze Fabric, aby przyspieszyć proces uczenia. PyTorch jest popularny w uczeniu głębokim, rozpoznawaniu obrazów i przetwarzaniu języka naturalnego. Możesz go też wykorzystać do uczenia transferowego i dostrajania wstępnie wytrenowanych modeli.
Wybierając algorytm, weź pod uwagę rozmiar danych, rodzaj problemu oraz dostępne zasoby. FLAML, stworzony przez Microsoft Research, pomaga efektywnie trenować modele. Zużywa mniej zasobów obliczeniowych i dobrze współpracuje z zadaniami równoległymi. Dzięki temu jest dobrym wyborem przy eksperymentach uczenia maszynowego na dużą skalę.
Ustawianie hiperparametrów
Hiperparametry określają, jak modele się uczą. Do wyszukiwania najlepszych ustawień możesz użyć flaml.tune. Dzięki równoległemu przetwarzaniu Spark usługa Fabric pozwala uruchomić naraz wiele prób strojenia. Oznacza to, że możesz szybko sprawdzić różne współczynniki uczenia, rozmiary wsadów czy liczbę warstw w swoim modelu PyTorch. Każdą próbę możesz śledzić w eksperymencie uczenia maszynowego, korzystając ze śledzenia eksperymentów. Narzędzia wizualizacji pomagają porównać wyniki i wybrać najlepszą konfigurację. Zobaczysz, które ustawienia najlepiej sprawdzają się w testowaniu i trenowaniu Twojego modelu.
Wskazówka: Używaj śledzenia eksperymentów, aby rejestrować każdą próbę, metrykę i parametr. Dzięki temu łatwiej powtórzyć udane eksperymenty i uniknąć błędów.
Uruchamianie zadań trenowania
Monitorowanie postępów
Zadania trenowania możesz monitorować w czasie rzeczywistym. Notesy usługi Fabric pokazują, jak działa każdy krok. Tryb High Concurrency przyspiesza zadania mniej więcej o 30%. Dla każdego kroku notesu otrzymujesz szczegółowe dzienniki. Integracja z MLflow zapewnia automatyczne logowanie, dzięki czemu nie musisz ręcznie zapisywać metryk. Możesz zdefiniować sesje trenowania i wybrać parametry oraz metryki do zapisu. Ułatwia to śledzenie postępów uczenia i porównywanie różnych eksperymentów.
| Scenariusz | Notesy Python (maszyna wirtualna 2-rdzeniowa) | Notesy PySpark (obliczenia Spark) |
|---|---|---|
| Obsługa dużych zbiorów danych | Ograniczone pamięcią pojedynczego węzła. Może mieć problemy ze skalowaniem. | Przetwarzanie rozproszone zapewnia skalowalną obsługę obciążeń od kilku GB do TB. |
Widać, że notesy PySpark lepiej radzą sobie z dużymi zbiorami danych. Ma to znaczenie, gdy trenujesz model PyTorch lub inne modele uczenia głębokiego na dużych danych.
Punkty kontrolne
Punkty kontrolne pozwalają zapisać stan modelu podczas trenowania. Jeśli zadanie zostanie zatrzymane lub chcesz je wstrzymać, możesz wznowić je od ostatniego punktu kontrolnego. Jest to przydatne przy długotrwałych zadaniach trenowania modeli PyTorch. Jeśli musisz uruchomić je ponownie, nie tracisz postępów. Punktów kontrolnych można też użyć do testowania różnych strategii uczenia lub do kontynuowania eksperymentu uczenia maszynowego od określonego miejsca.
Uwaga: Zawsze ustawiaj punkty kontrolne, gdy trenujesz modele na dużych zbiorach danych. Takie podejście oszczędza czas i chroni Twoją pracę.
Masz teraz narzędzia do trenowania, testowania i monitorowania modeli uczenia maszynowego w notesach Microsoft Fabric. Możesz uruchamiać eksperymenty, dostrajać hiperparametry i budować skuteczne rozwiązania oparte na modelach PyTorch dla dowolnego wyzwania z zakresu data science.
Przebieg trenowania modeli AI

Pełne możliwości trenowania modeli AI odblokujesz, opanowując przebieg pracy w notesach Microsoft Fabric. Ta sekcja przeprowadzi Cię przez rozproszoną ewaluację, strojenie modeli i korzystanie z wbudowanych funkcji AI. Zobaczysz, jak Spark, monitorowanie w czasie rzeczywistym i funkcje Copilot pomagają budować lepsze modele szybciej.
Rozproszona ewaluacja
Ocena wydajności
Wydajność modelu możesz oceniać na dużych zbiorach danych, korzystając z rozproszonych obliczeń Spark. Spark dzieli dane testowe na mniejsze części i przetwarza je równolegle. Dzięki temu nie musisz czekać godzinami na wyniki. Metryki takie jak dokładność, precyzja i czułość (recall) możesz sprawdzić bezpośrednio w notesie. Podejście to sprawdza się przy uczeniu głębokim w PyTorch, gdy trzeba testować modele na milionach rekordów. Monitorowanie w czasie rzeczywistym w usłudze Fabric pozwala śledzić zużycie zasobów i postęp zadania podczas trwania ewaluacji.
Porównywanie modeli
W notatnikach można porównywać różne modele obok siebie. Na przykład możesz wytrenować model w PyTorch i model w scikit-learn na tym samym zbiorze danych. Wyniki każdego modelu możesz zapisywać w logach i wizualizować je za pomocą wbudowanych wykresów. Ułatwia to wybór najlepszego modelu do projektu trenowania modeli AI. Możesz także użyć śledzenia eksperymentów, aby zapisywać wyniki i udostępniać je zespołowi. Dzięki temu łatwo powtarzać udane eksperymenty i usprawniać przepływ pracy.
Dostrajanie modeli
Wyszukiwanie hiperparametrów
Dokładność modelu możesz zwiększyć, dostrajając hiperparametry. Notatniki w Microsoft Fabric obsługują do tego zaawansowane narzędzia, takie jak Optuna. Oto prosty przepływ pracy, którego możesz użyć:
- Utwórz badanie w Optuna, aby przechowywać wyniki prób:
study = optuna.create_study(direction="maximize") - Zoptymalizuj badanie przez określoną liczbę prób:
study.optimize(objective, n_trials=60, show_progress_bar=True) - Wyświetl wyniki prób:
print("Number of finished trials:", len(study.trials))
Wyszukiwanie możesz także zobrazować za pomocą wykresów. Użyj plot_optimization_history(study).show(), aby zobaczyć, jak model poprawia się w czasie. Spróbuj plot_param_importances(study).show(), aby sprawdzić, które ustawienia mają największe znaczenie. Użyj plot_parallel_coordinate(study).show(), aby przeanalizować, jak różne parametry na siebie wpływają. Nie kopiuj kodu bezrefleksyjnie — dostosowuj go i eksperymentuj z różnymi hiperparametrami, aby uzyskać najlepsze wyniki dla modeli w PyTorch lub innych.
Unikanie przeuczenia
Zależy Ci na tym, aby modele trenowane w ramach projektu AI dobrze sprawdzały się na nowych danych, a nie tylko na zbiorze treningowym. Przeuczenie (overfitting) występuje wtedy, gdy model zbyt dobrze poznaje dane treningowe i zawodzi na nowych przykładach. Możesz mu zapobiegać, stosując walidację krzyżową i techniki stackingu.
Stacking zazwyczaj wykorzystuje walidację krzyżową do generowania predykcji dla meta-modelu, dzięki czemu informacje z danych treningowych nie przenikają do danych testowych. To zwiększa złożoność, ale jednocześnie zapewnia większą solidność.
Aby modele były bardziej odporne, możesz także zastosować wczesne zatrzymywanie (early stopping) w PyTorch, regularyzację i warstwy dropout. Zawsze sprawdzaj wyniki walidacji i dostosowuj proces trenowania, jeśli zauważysz oznaki przeuczenia.
Wbudowane funkcje AI
Klasyfikacja tekstu
Możesz zaoszczędzić czas na typowych zadaniach, korzystając z wbudowanych funkcji AI w notatnikach Microsoft Fabric. Do klasyfikacji tekstu możesz użyć funkcji Classify, aby sortować e-maile, zgłoszenia do wsparcia lub dokumenty według kategorii. Sprawdza się to w scenariuszach biznesowych, takich jak kierowanie pilnych próśb czy oznaczanie opinii klientów. Możesz także tworzyć własne modele w PyTorch do bardziej zaawansowanych zadań klasyfikacji.
Analiza sentymentu
Analiza sentymentu pomaga zrozumieć wydźwięk tekstu, na przykład recenzji klientów lub wpisów w mediach społecznościowych. Funkcja Sentiment Analysis pozwala oznaczać negatywne komentarze i szybko na nie reagować. Ta funkcja działa od razu w notatnikach, więc nie musisz pisać skomplikowanego kodu. Wbudowane funkcje możesz też łączyć z własnymi modelami w PyTorch, aby osiągnąć jeszcze lepsze wyniki.
Oto tabela wbudowanych funkcji AI, których możesz użyć w przepływie pracy związanym z trenowaniem modeli AI:
| Funkcja | Opis | Przypadki użycia |
|---|---|---|
| Summarize | Skraca długi tekst do krótkich podsumowań | Rozbudowane wewnętrzne wiadomości e-mail w krótkie, zwięzłe podsumowanie |
| Classify | Kategoryzuje tekst na podstawie własnych etykiet lub tagów | Klasyfikowanie zgłoszeń do pomocy technicznej według poziomu ważności (pilne, krytyczne itp.) |
| Extract | Pobiera określone informacje z tekstu wejściowego | Wyodrębnianie imienia i lokalizacji z bazy e-maili od klientów |
| Translate | Konwertuje tekst z jednego języka na inny | Tłumaczenie e-maili od klientów z hiszpańskiego na angielski |
| Similarity | Porównuje dwa teksty i określa, jak bardzo są do siebie podobne | Znajdowanie podobnych zgłoszeń do pomocy technicznej, które opisują ten sam problem |
| Sentiment Analysis | Określa wydźwięk tekstu – pozytywny, negatywny lub neutralny | Oznaczanie recenzji klientów zawierających słowa „nie do przyjęcia”, „źle” i reagowanie na nie, zanim sprawa zostanie eskalowana |
Możesz używać Copilota do generowania kodu, sugerowania ulepszeń i automatyzowania powtarzalnych kroków. Dzięki temu proces trenowania modeli AI przebiega szybciej i jest bardziej produktywny. Możesz skupić się na budowaniu i dostrajaniu modeli w PyTorch, podczas gdy Copilot zajmuje się rutynowymi zadaniami.
Stosując ten przepływ pracy w notatnikach Microsoft Fabric, możesz skalować trenowanie modeli AI, efektywnie dostrajać modele w PyTorch i wykorzystywać wbudowane funkcje AI do rozwiązywania rzeczywistych problemów.
Zarządzanie modelami i ich wdrażanie
Zapisywanie modeli
Eksportowanie i wersjonowanie
Potrzebujesz niezawodnego sposobu, aby zapisywać i śledzić modele PyTorch w usłudze Fabric. Zacznij od użycia MLflow do rejestrowania każdego przebiegu trenowania. MLflow rejestruje parametry, metryki i artefakty. Dzięki temu łatwiej znaleźć najlepszą wersję modelu PyTorch, gdy jest potrzebna. Autologging należy włączyć na początku śledzenia eksperymentów. Dzięki temu od pierwszego przebiegu przechwytujesz wszystkie ważne szczegóły. Logów nie da się dodać później, dlatego warto zacząć wcześnie.
Możesz użyć podróży w czasie w Delta Lake, aby przypiąć dokładną wersję danych treningowych. Dzięki temu zawsze możesz odtworzyć wyniki. Każdy model PyTorch zarejestruj w rejestrze modeli MLflow. Uwzględnij wersję, skrót danych treningowych, metryki wydajności i właściciela. Tworzy to przejrzysty ślad audytu na potrzeby zarządzania modelami. Zanim przeniesiesz model do środowiska produkcyjnego, skonfiguruj proces przeglądu przez człowieka. Użyj zatwierdzeń żądań ściągnięcia w Azure DevOps powiązanych z potokami wdrożeniowymi usługi Fabric. Ten krok zapewnia bezpieczeństwo i zgodność z wymaganiami Twojego procesu pracy.
Wskazówka: Zawsze rejestruj najlepsze modele PyTorch w MLflow. Jeśli wykryjesz problem, możesz wycofać się do poprzedniej wersji.
Udostępnianie notebooków
Funkcje współpracy
Z zespołem w notebookach pracuje się łatwo. Platforma łączy się bezpośrednio z Twoim Lakehouse, więc wszyscy korzystają z tych samych danych. Notebooki łączą w jednym miejscu kod, komentarze i wyniki. Ułatwia to udostępnianie pomysłów i rezultatów. Członkowie zespołu mogą używać ulubionych języków programowania, takich jak Python czy R, na tym samym zbiorze danych. Ta elastyczność pomaga wszystkim wnosić wkład w zarządzanie modelami i śledzenie eksperymentów.
| Funkcja | Opis |
|---|---|
| Łatwa praca z danymi Lakehouse | Bezpośrednie połączenie z Lakehouse w usłudze Fabric umożliwia płynną interakcję z danymi bez dodatkowej konfiguracji. |
| Lepsza współpraca | Notebooki łączą kod, komentarze i wyniki, co zwiększa zrozumienie i udostępnianie wiedzy w zespole. |
| Obsługa różnych stylów kodowania | Pozwala członkom zespołu korzystać z preferowanych języków programowania, co sprzyja współpracy przy tym samym zbiorze danych. |
Wdrażanie modeli
Integracja z potokami Fabric
Modele PyTorch możesz wdrażać za pomocą potoków wdrożeniowych usługi Fabric. Potoki pomagają zarządzać modelami w środowiskach deweloperskim, testowym i produkcyjnym. Zachowujesz kontrolę i spójność na każdym etapie. Wizualny przepływ pracy w Microsoft Fabric Deployment Pipelines pokazuje, gdzie znajduje się Twój model PyTorch i jakie kroki są przed nim. Modele PyTorch możesz promować przez kontrolowane środowiska. Ten proces gwarantuje, że zespół stosuje sprawdzone praktyki zarządzania modelami.
- Zintegruj się z usługami Azure OpenAI przy użyciu SynapseML.
- Użyj zestawu Python SDK do wdrożenia.
- Uzyskuj dostęp do modeli PyTorch za pośrednictwem interfejsów REST API.
- Typowe zastosowania obejmują streszczanie tekstu i analizę sentymentu.
Wnioskowanie w czasie rzeczywistym
Modele PyTorch możesz udostępniać do wnioskowania w czasie rzeczywistym. Oznacza to, że możesz generować predykcje dla nowych danych zaraz po ich napłynięciu. Na przykład wdrożony model PyTorch może klasyfikować zgłoszenia do wsparcia lub natychmiast analizować opinie klientów. MLflow śledzi każde wdrożenie, dzięki czemu wiesz, która wersja modelu PyTorch działa. W razie potrzeby możesz szybko zaktualizować wdrożenie lub je wycofać.
Uwaga: Wnioskowanie w czasie rzeczywistym pozwala reagować na potrzeby biznesowe bez zwłoki. Użyj MLflow, aby monitorować i zarządzać modelami PyTorch w środowisku produkcyjnym.
Stosując te kroki, możesz obsłużyć zapisywanie, udostępnianie i wdrażanie modeli PyTorch w usłudze Fabric. Dzięki temu proces pracy pozostaje uporządkowany, a wyniki są powtarzalne. MLflow i notebooki dają narzędzia potrzebne do śledzenia eksperymentów i zarządzania modelami na dużą skalę.
Najlepsze praktyki w notebookach Fabric
Powtarzalność
Dokumentowanie procesu pracy
Zawsze dokumentuj proces pracy, aby projekty AI były łatwe do powtórzenia i zrozumienia. Dobra dokumentacja pomaga Tobie i zespołowi śledzić każdy krok procesu trenowania modelu. Zacznij od opisania kontekstu biznesowego każdego eksperymentu. Modele rejestruj z jasnymi wyjaśnieniami tego, co przewidują, jak z nich korzystać i jakie są znane ograniczenia. Komórki Markdown w notebookach służą do wyjaśniania logiki i decyzji. Ten nawyk ułatwia udostępnianie i przeglądanie Twojej pracy.
- Użyj podróży w czasie w Delta Lake, aby przypiąć dokładną wersję danych treningowych dla każdego eksperymentu.
- Oddziel inżynierię cech od trenowania, tworząc wielokrotnego użytku tabele cech.
- Włącz autologging na początku eksperymentów, aby przechwycić wszystkie parametry i wyniki.
- Przed wdrożeniem produkcyjnym ustaw modele na etapie testowym. Zweryfikuj je na danych wydzielonych i porównaj z aktualnymi modelami.
- Regularnie sprawdzaj dryf modelu, porównując prognozy z rzeczywistymi wynikami.
Wskazówka: Dokumentuj każdy eksperyment na bieżąco. Zaoszczędzisz czas i unikniesz nieporozumień w przyszłości.
Zarządzanie środowiskiem
Zarządzanie środowiskiem gwarantuje, że wyniki pozostaną spójne między kolejnymi uruchomieniami. Zapisuj wersje wszystkich używanych bibliotek i zależności. Dzięki temu unikniesz niespodzianek, gdy Ty lub Twoi współpracownicy ponownie uruchomicie notatniki. Do śledzenia konfiguracji używaj plików środowiska lub list pakietów. Udostępniając swoją pracę, dołącz te szczegóły, aby inni mogli odtworzyć wyniki bez problemów.
Współpraca
Udostępnianie w zespole
Praca zespołowa w usłudze Fabric jest prosta i skuteczna. Notatniki możesz udostępniać współpracownikom i ustawiać uprawnienia dla każdego użytkownika. Dzięki tej kontroli decydujesz, kto może wyświetlać, a kto edytować Twoją pracę. Członkowie zespołu mogą dodawać komentarze na poziomie komórek, aby omawiać kod, zadawać pytania lub proponować zmiany. Te funkcje pomagają wszystkim być na bieżąco i wspólnie posuwać projekty naprzód.
- Udostępniaj notatniki bezpośrednio zespołowi.
- Ustaw uprawnienia użytkowników, aby kontrolować dostęp.
- Używaj komentarzy na poziomie komórek do przekazywania uwag i prowadzenia dyskusji.
Przegląd kodu
Przegląd kodu jest ważny dla jakości i nauki. Notatniki obsługują historię wersji, dzięki czemu widzisz, co zostało zmienione i kiedy. W razie potrzeby możesz przywrócić wcześniejszą wersję. Integracja z usługą Git pozwala korzystać z kontroli źródła, aby jeszcze dokładniej śledzić zmiany. Te narzędzia ułatwiają przeglądanie kodu, wykrywanie błędów i bezpieczne prowadzenie projektu.
- Sprawdzaj historię wersji, aby śledzić zmiany.
- W razie potrzeby przywróć wcześniejsze wersje.
- Korzystaj z integracji z Git, aby zaawansowanie zarządzać kodem źródłowym.
Optymalizacja wydajności
Zarządzanie zasobami
Wydajność możesz zoptymalizować, mądrze zarządzając zasobami. Dobieraj moc obliczeniową do obciążenia. Zwiększaj ją w okresach intensywnej pracy i wstrzymuj zasoby, gdy nie są używane. Zarezerwowana pojemność oraz obciążenia typu spot mogą pomóc w obniżeniu kosztów. Ustaw budżety i alerty, aby uniknąć przekroczenia wydatków. Monitoruj szczytowe obciążenia, aby wcześnie wykrywać wąskie gardła.
| Wskazówka dotycząca optymalizacji | Korzyść |
|---|---|
| Dobór pojemności do obciążenia | Dopasowuje zasoby do potrzeb obciążenia |
| Zarezerwowane/spot obciążenia | Obniża koszty |
| Monitorowanie szczytów | Szybko wykrywa wąskie gardła |
| Ustawianie budżetów/alertów | Zapobiega nieoczekiwanym wydatkom |
Efektywna obsługa danych
Efektywna obsługa danych przyspiesza projekty AI. Przetwarzaj dane w miejscu, aby ograniczyć ich przenoszenie i zaoszczędzić czas. Porządkuj magazyn, aby poprawić wydajność. Używaj wielokrotnego użytku tabel cech, aby nie powtarzać pracy. Równoległe strojenie hiperparametrów pozwala testować wiele ustawień naraz, co przyspiesza eksperymenty. Zawsze śledź eksperymenty, aby wyniki pozostawały uporządkowane.
Uwaga: Efektywna obsługa danych i inteligentne zarządzanie zasobami pomagają w pełni wykorzystać projekty AI.
Rozwiązywanie problemów
Podczas pracy z notatnikami usługi Microsoft Fabric możesz napotkać wyzwania, które spowalniają postęp. Znajomość sposobów rozwiązywania typowych problemów pomaga utrzymać projekty na właściwym torze. Ta sekcja zawiera praktyczne kroki debugowania oraz wskazówki, gdzie szukać wsparcia, gdy go potrzebujesz.
Debugowanie
Wiele problemów możesz rozwiązać, postępując według jasno określonego procesu. Zacznij od sprawdzenia Centrum monitorowania w portalu Microsoft Fabric. To narzędzie pokazuje, czy któreś potoki zakończyły się niepowodzeniem lub czy w obszarze roboczym występują błędy. Jeśli zauważysz problem, przejrzyj szczegóły, takie jak nazwa obszaru roboczego, aktywator i źródło zdarzeń. Pozwalają one szybko znaleźć przyczynę źródłową.
Aby debugować potoki danych i notatniki, wykonaj następujące kroki:
- Sprawdź w Centrum monitorowania, czy zadania nie zakończyły się niepowodzeniem lub nie zgłaszają błędów.
- Zweryfikuj wszystkie połączenia i poświadczenia, szczególnie dla usługi Azure SQL lub innych połączonych usług.
- Użyj trybu debugowania, aby krok po kroku przejść przez potoki danych i znaleźć miejsce, w którym się zatrzymują.
- Sprawdź ustawienia harmonogramu i wyzwalaczy, aby upewnić się, że zadania uruchamiają się zgodnie z planem.
- Monitoruj wykorzystanie zasobów, aby sprawdzić, czy słaba wydajność wynika z ograniczonej pojemności.
- Odwiedź stronę stanu usługi Microsoft Fabric, aby sprawdzić awarie usług lub aktualizacje.
- Wyeksportuj i zaimportuj potoki za pomocą funkcji „Zapisz jako”, jeśli chcesz je zduplikować lub zresetować.
- Dokumentuj identyfikatory reguł, warunki, znaczniki czasu i dotknięte obiekty, aby śledzić, co się wydarzyło.
Wskazówka: Podczas uruchamiania i debugowania notatników zawsze prowadź dziennik zmian i działań. Ten nawyk ułatwia śledzenie problemów i przekazywanie ustaleń zespołowi.
Zasoby pomocy technicznej
Jeśli nie potrafisz samodzielnie rozwiązać problemu, masz kilka opcji wsparcia. Microsoft zapewnia silną społeczność oraz oficjalne kanały pomocy. Możesz skorzystać z tych zasobów, aby uzyskać odpowiedzi i uczyć się od innych.
- Dokumentacja Microsoft Docs zawiera przewodniki krok po kroku oraz artykuły o rozwiązywaniu problemów.
- Fora społeczności pozwalają zadawać pytania i uzyskiwać porady zarówno od innych użytkowników, jak i od pracowników Microsoft.
- Zgłoszenia pomocy technicznej łączą Cię z ekspertami Microsoft w przypadku bardziej złożonych problemów.
- Centrum monitorowania oraz strony stanu usług informują Cię o trwających awariach i przerwach w działaniu.
Prosząc o pomoc, podaj ważne szczegóły, takie jak nazwa obszaru roboczego, źródło eventstream, identyfikatory reguł oraz godzina wystąpienia problemu. Te informacje pomagają zespołom wsparcia szybciej i dokładniej udzielić odpowiedzi.
Uwaga: Aktywny udział w społeczności często prowadzi do szybkich rozwiązań. Wielu użytkowników dzieli się wskazówkami i sprawdzonymi praktykami, które mogą pomóc uniknąć podobnych problemów w przyszłości.
Stosując te kroki rozwiązywania problemów i korzystając z dostępnych zasobów wsparcia, możesz rozwiązać większość problemów w notebookach Fabric i zapewnić ciągłość swoich projektów.
Trenowanie modeli AI możesz przyspieszyć dzięki notebookom Microsoft Fabric. Znany interfejs, podobny do interfejsu Power BI, sprawia, że praca jest intuicyjna i wydajna. Pracujesz w zunifikowanym środowisku, które łączy inżynierię danych, analitykę i wsparcie AI, dzięki czemu nie musisz przełączać się między narzędziami. Ta integracja usprawnia każdy etap, od przygotowania danych po wdrożenie.
Skorzystaj z poniższych zasobów, aby pogłębić swoje umiejętności:
- Microsoft Learn z ćwiczeniami praktycznymi
- Programy certyfikacyjne potwierdzające Twoją wiedzę
- Data Wrangler do łatwego czyszczenia danych
- MLflow do śledzenia eksperymentów
- Lakehouse do zunifikowanego przechowywania danych
Rozpocznij swoją przygodę już dziś i odblokuj pełną moc skalowalnego, wydajnego tworzenia modeli AI. Aby dowiedzieć się więcej o tych technikach i zobaczyć dyskusje ekspertów, koniecznie obejrzyj powiązany odcinek podcastu: Train AI Models with Microsoft Fabric Notebooks.