M365Con 2027 – conferenza online gratuita · 11–22 Jan 2027 · 120 sessions→ m365con.net

Blog · Mirko Peters

Microsoft Fabric Notebooks e Lakehouse

By · · Updated

Crea flussi di lavoro di trasformazione dei dati e di machine learning con i notebook di Microsoft Fabric e il lakehouse, per analisi scalabili.

Automatically translated with AI from the original post. Read the English original

Cover: Azure AI Foundry - Simply Explained

I flussi ETL tradizionali possono essere lenti. Prevedono molti passaggi manuali e richiedono una grande manutenzione. Ecco alcuni problemi comuni:

Limite

Descrizione

Lavoro manuale

Passi più tempo a scrivere script e ad aggiornare i dati.

Costi di manutenzione elevati

Con la crescita dei dati, servono più tempo e più denaro.

Difficoltà con lo schema fisso

Le modifiche ai dati possono interrompere le pipeline. Risolverle richiede molto tempo.

Quando usi i notebook per la trasformazione dei dati, hai un unico punto di riferimento per i tuoi dati. Il pattern Bronze-Silver-Gold con Spark e Lakehouse migliora la qualità dei dati e ti aiuta a tracciarne la provenienza. Ottieni un feedback chiaro e puoi collaborare con il tuo team. Così tutti restano allineati.

Punti chiave

Perché passare alla trasformazione dei dati basata sul codice

Problemi dei flussi ETL tradizionali

Probabilmente hai usato Power Query, Excel o script per la trasformazione dei dati. Questi strumenti possono creare problemi quando i dati crescono. Potresti trovare file chiamati "final_v2_REAL.xlsx" senza sapere quale sia quello corretto. Fare le cose a mano rende difficile capire cosa è cambiato. Le pipeline possono interrompersi se i dati cambiano. Risolvere questi problemi richiede molto tempo e impegno.

Se usi molti strumenti diversi, puoi perdere di vista da dove provengono i dati. Inoltre, puoi commettere errori difficili da individuare.

Vantaggi di Fabric Notebooks e Lakehouse

Fabric Notebooks e Lakehouse ti aiutano a eseguire meglio la trasformazione dei dati. Scrivi il codice in un unico punto. Puoi usare Git per tenere traccia di ogni modifica. Questo rende semplice verificare il lavoro e ripeterlo. Puoi lavorare con milioni di righe senza spostare i dati in altri strumenti.

Ecco in che modo i notebook basati sul codice e collegati a Git si differenziano dai vecchi strumenti ETL:

Caratteristica

Fabric Notebooks (basati sul codice)

Strumenti ETL tradizionali

Vantaggi

Lineage end-to-end

✅ A livello di colonna

⚠️ A livello di tabella

Risoluzione dei problemi più semplice e maggiore visibilità

Auditabilità

✅ Storico completo (Git)

⚠️ Limitato

Monitoraggio chiaro delle modifiche

Collaborazione

✅ Base di codice centralizzata

⚠️ Script e file sparsi

I team lavorano insieme, con meno confusione

Puoi definire le regole di business in un unico punto. I team possono usarle in dashboard e report. Questo aiuta a evitare errori e mantiene tutti allineati. Permette inoltre al team di esplorare i dati in sicurezza.

Cambio di mentalità: i notebook come livello di trasformazione

Dovresti considerare i notebook come il punto centrale della trasformazione dei dati. I notebook sono la tua unica fonte di verità. Puoi verificare, testare e condividere il tuo lavoro. Puoi usare i parametri per passare dai test all'uso reale. In questo modo hai più controllo e puoi fidarti dei tuoi dati.

Considera il notebook come il piano dei tuoi dati. Vedrai cosa succede in ogni passaggio.

Il pattern di trasformazione dei dati Bronze-Silver-Gold

Il pattern Bronze-Silver-Gold ti aiuta a organizzare il processo di trasformazione dei dati. I dati attraversano tre fasi distinte. Ogni fase ha un compito specifico. Questo pattern rende la pipeline più facile da gestire e più affidabile.

Bronze: acquisizione dei dati grezzi

Si parte dal livello Bronze. Qui importi i dati grezzi da diverse fonti. Non modifichi ancora i dati: li raccogli e li conservi in modo sicuro. Questo passaggio mantiene al sicuro i dati originali per usi futuri.

Puoi usare diversi metodi per caricare i dati nel livello Bronze. La tabella seguente mostra alcuni dei modi più comuni:

Metodo

Descrizione

Attività di copia diretta

Usala per l'ingestione semplice di dati grezzi.

Collegamenti (shortcut)

Puntano direttamente ai dati di origine, senza trasformazioni.

Notebook PySpark

Usali per la conversione del formato o per il parsing iniziale.

Dovresti sempre imporre uno schema quando carichi i dati. In questo modo individui subito gli errori. Se trovi righe non valide, puoi metterle in quarantena. Così i dati restano puliti fin dall'inizio.

Suggerimento: conserva sempre una copia dei dati grezzi. Potrebbe servirti per correggere i problemi o per verificare il lavoro in un secondo momento.

Silver: pulizia e conformità dei dati

Il livello Silver è dove pulisci e standardizzi i dati. Correggi gli errori, rimuovi i duplicati e fai in modo che i dati rispettino le regole di business. Inoltre unisci le tabelle e aggiungi i valori mancanti, se necessario.

In questo livello dovresti:

Per il lavoro usi strumenti come PySpark o pandas nel notebook. Questo ti permette di scrivere passaggi chiari per ogni modifica. Puoi testare il lavoro e verificare che sia corretto prima di passare alla fase successiva.

Nota: esegui controlli canary dopo ogni passaggio importante. Ad esempio, verifica il numero di righe o cerca un numero eccessivo di valori vuoti. Questo ti aiuta a individuare i problemi in anticipo.

Gold: feature engineering per analytics e ML

Il livello Gold prepara i dati per l'analisi e il machine learning. Crei nuove feature, come i ritardi temporali o i gruppi di clienti. Inoltre costruisci tabelle pronte per dashboard o modelli.

In questo livello dovresti:

Dovresti sempre scrivere i dati in modo idempotente. Questo significa che puoi eseguire la pipeline più volte senza commettere errori o contare due volte gli stessi dati. Puoi usare gli snapshot Delta per salvare le versioni delle tabelle. Se qualcosa va storto, puoi tornare a una copia sicura.

Ricorda: il livello Gold è dove i dati acquistano il massimo valore. Dedica particolare attenzione alla verifica del lavoro e mantieni i dati affidabili.

Seguendo il pattern Bronze-Silver-Gold, costruisci una solida pipeline di Data Transformation. Mantieni i dati sicuri, puliti e pronti per qualsiasi progetto di analisi o machine learning.

Orchestrare la Data Transformation con notebook e Spark

Lettura e scrittura delle tabelle Delta

Puoi usare Spark nei notebook di Fabric per lavorare con le tabelle Delta. Questo ti permette di gestire milioni di righe in tempi molto rapidi. Non devi spostare i dati né correggere le cose a mano. Se attivi il Native Execution Engine, i tuoi job possono essere eseguiti fino a cinque volte più velocemente. Puoi modificare impostazioni come spark.sql.files.maxPartitionBytes e spark.sql.shuffle.partitions per adattarle alla dimensione dei dati. Auto Compaction aiuta quando ci sono molte scritture di piccole dimensioni e rende le tabelle più veloci da interrogare. Molte aziende constatano che, grazie a questi accorgimenti, i cicli ELT diventano il 30% più veloci e le query risultano 1,2 volte migliori.

Suggerimento: le tabelle Delta conservano i dati in versioni. Puoi annullare le modifiche se commetti un errore.

Parametrizzazione e gestione degli ambienti

Dovresti usare i parametri nei notebook. Questo ti permette di passare dal test al lavoro reale. Aiuta a evitare errori e a proteggere i dati. Prevedi un piano per tenere separati i dati di test e quelli reali. Puoi inoltre usare un piano del catalogo per organizzare i metadati e proteggere le informazioni riservate. Questo rende più facile controllare chi può vedere cosa e rispettare le regole aziendali.

Nota: i parametri permettono ai notebook di funzionare per più team e li mantengono sicuri.

Automatizzare e pianificare i flussi di lavoro

Puoi configurare i notebook in modo che vengano eseguiti autonomamente secondo una pianificazione. Così non devi eseguire i passaggi a mano né usare file CSV. Strumenti come dbt Cloud, Meltano e Prefect ti aiutano a monitorare e controllare le pipeline. dbt Cloud è adatto ai job SQL. Meltano è gratuito e funziona con Git. Prefect usa Python e offre retry, caching e log.

Se automatizzi i tuoi flussi di lavoro, commetti meno errori e ricavi più valore dai tuoi dati.

Governance, verificabilità e buone pratiche

Integrazione con Git e revisione del codice

Git ti aiuta a tenere traccia di ogni modifica ai tuoi notebook. Puoi vedere chi ha apportato le modifiche e quando. Prova nuove idee in un branch prima di aggiungerle al progetto principale. La revisione del codice permette al tuo team di trovare subito gli errori. Tutti possono lavorare insieme senza perdere il lavoro degli altri. Se fai un pasticcio, puoi tornare a una versione sicura.

Vantaggio

Descrizione

Tieni traccia di ogni modifica

Sai sempre chi ha apportato le modifiche e quando.

Sperimenta senza timori

Prova cose nuove in un branch e aggiungile quando sei pronto.

Collabora in modo efficiente

Più persone possono lavorare insieme senza perdere il lavoro.

Ripristino in qualsiasi momento

Se commetti un errore, puoi tornare a una versione precedente.

Trasparenza e responsabilità

Ogni modifica viene salvata, così puoi vedere cosa è successo.

Revisioni del codice migliorate

Git semplifica il controllo e la correzione del codice.

Struttura e sicurezza

Con Git il tuo progetto resta ordinato e sicuro.

Suggerimento: usa sempre le pull request per le modifiche. Così il tuo codice resta sicuro e più facile da verificare.

Guardrail: controlli dello schema e query canary

I guardrail aiutano a proteggere i tuoi dati. I controlli dello schema verificano che le tabelle abbiano le colonne e i tipi corretti. Le query canary controllano la presenza di problemi dopo ogni passaggio. Analizzano il numero di righe, i valori vuoti e i numeri chiave. Questi controlli ti aiutano a individuare i problemi prima che raggiungano le dashboard.

Nota: controlla sempre lo schema prima di spostare i dati nel passaggio successivo.

Sicurezza e controlli di accesso

Puoi proteggere i tuoi dati con una sicurezza solida in Microsoft Fabric Lakehouse. OneLake Security ti permette di definire regole su chi può vedere o modificare i dati. La sicurezza a livello di riga e di colonna controlla cosa può visualizzare ciascuna persona. Per gestire gli accessi puoi usare la User Identity Mode o la Delegated Identity Mode. Le scorciatoie sicure proteggono i dati di origine, anche con sorgenti remote.

Controlla sempre le impostazioni di accesso per proteggere i tuoi dati.

Vittorie rapide e anti-pattern

Puoi migliorare la tua pipeline:

Evita queste cose:

Piccole modifiche possono rendere la tua pipeline dei dati più sicura e più facile da usare.

Integrazione con Power BI e Machine Learning

Creare modelli semantici sulle tabelle Gold

Le tabelle Gold possono aiutarti a ricavare più valore dai tuoi dati. In Power BI crei modelli semantici per organizzare i dati. Questi modelli rendono più semplici l'analisi e la reportistica. Se applichi le buone pratiche, i tuoi modelli saranno più utili e più facili da condividere.

Suggerimento: buone note e significati chiari aiutano le persone a fidarsi dei tuoi modelli e a usarli.

Feature store ML e addestramento dei modelli

Un feature store ti aiuta a tenere traccia dei dati per il machine learning. Puoi salvare le feature in un unico punto, sia per l'addestramento sia per le previsioni. Questo aiuta i tuoi modelli a restare corretti e affidabili. I feature store ti aiutano a evitare errori usando gli stessi dati in entrambe le fasi. Mostrano da dove arrivano le feature e come cambiano. Questo rende più facile risolvere i problemi e rifare il lavoro. Puoi condividere e riutilizzare le feature con il tuo team. Questo fa risparmiare tempo e aiuta tutti a ottenere risultati migliori.

Automatizzare l'aggiornamento e la distribuzione dei modelli

Puoi usare l'utilità di pianificazione dei processi in Microsoft Fabric per aggiornare i dati e distribuire i modelli automaticamente. La pianificazione ti permette di impostare l'esecuzione dei processi a orari precisi. Puoi gestire molte pianificazioni e collegarle al tuo processo di lavoro. Così dati e modelli restano aggiornati senza interventi manuali. L'automazione riduce gli errori e rende il tuo flusso di lavoro più solido.

Nota: l'automazione ti permette di dedicare più tempo alle analisi e alle decisioni, non al lavoro manuale.

Puoi fidarti di più dei tuoi dati quando usi un approccio code-first con i Notebook di Microsoft Fabric e il Lakehouse. Il pattern Bronze-Silver-Gold, delle regole valide e l'automazione ti aiutano a far crescere l'analisi dei dati e il machine learning. Inizia spostando una pipeline e aggiungi dei controlli per mantenere tutto al sicuro. Poi valuta le funzionalità che fanno davvero la differenza:

Per i prossimi passi, prova i laboratori pratici, guarda i video degli esperti oppure completa il corso DP-700 per approfondire.

Domande frequenti

Qual è il vantaggio principale dell'uso dei Notebook di Fabric per la trasformazione dei dati?

Hai un unico punto in cui scrivere, testare e monitorare i passaggi sui dati. Questo rende il lavoro più facile da verificare e da ripetere. Puoi anche lavorare con grandi insiemi di dati senza spostare i file.

In che modo il pattern Bronze-Silver-Gold aiuta la mia pipeline di dati?

Questo pattern ti aiuta a organizzare i dati in fasi chiare. Conservi al sicuro i dati grezzi, li puliti e poi crei le feature per report o modelli. Puoi risolvere i problemi più in fretta e fidarti dei risultati.

Posso usare Git con i Notebook di Fabric?

Sì, puoi collegare i tuoi notebook a Git. Questo ti permette di tenere traccia delle modifiche, rivedere il codice e lavorare con il tuo team. Se ti serve, puoi sempre tornare a una versione precedente.

Come posso proteggere i dati nel Lakehouse?

Imposta delle regole su chi può vedere o modificare i dati. Usa la sicurezza a livello di riga e di colonna. Puoi anche usare endpoint gestiti e controlli dell'area di lavoro per proteggere i dati.

Posso automatizzare i flussi di lavoro di dati e ML?

Sì! Puoi pianificare l'esecuzione dei notebook a orari stabiliti. Puoi anche aggiornare i dati e distribuire i modelli senza farlo a mano. Così risparmi tempo e riduci gli errori.

Ti consigliamo anche di ascoltare

Se stai esplorando i notebook e il lakehouse di Microsoft Fabric, questi episodi offrono un contesto pratico su piattaforme dati Microsoft, architettura dell'AI, governance e automazione.

Questi episodi ti aiutano a collegare il tema dell'articolo alle decisioni pratiche su architettura e adozione.

Fabric notebooks Microsoft Excel Power Query

Related articles

RSS