Microsoft Fabric Notebooks e Lakehouse
By Mirko Peters · · Updated
Crea flussi di lavoro di trasformazione dei dati e di machine learning con i notebook di Microsoft Fabric e il lakehouse, per analisi scalabili.
Automatically translated with AI from the original post. Read the English original

I flussi ETL tradizionali possono essere lenti. Prevedono molti passaggi manuali e richiedono una grande manutenzione. Ecco alcuni problemi comuni:
Limite | Descrizione |
|---|---|
Lavoro manuale | Passi più tempo a scrivere script e ad aggiornare i dati. |
Costi di manutenzione elevati | Con la crescita dei dati, servono più tempo e più denaro. |
Difficoltà con lo schema fisso | Le modifiche ai dati possono interrompere le pipeline. Risolverle richiede molto tempo. |
Quando usi i notebook per la trasformazione dei dati, hai un unico punto di riferimento per i tuoi dati. Il pattern Bronze-Silver-Gold con Spark e Lakehouse migliora la qualità dei dati e ti aiuta a tracciarne la provenienza. Ottieni un feedback chiaro e puoi collaborare con il tuo team. Così tutti restano allineati.
Punti chiave
Usa i Fabric Notebook per la trasformazione dei dati, così il lavoro resta centralizzato. Questo ti aiuta a vedere le modifiche e a lavorare con il team.
Segui il pattern Bronze-Silver-Gold per organizzare i dati. Così i dati grezzi restano al sicuro e puoi pulire e preparare i dati per l'analisi.
Automatizza i flussi di lavoro per risparmiare tempo ed evitare errori. Strumenti come dbt Cloud e Prefect ti aiutano a pianificare e monitorare i passaggi di elaborazione dei dati.
Usa Git per il controllo delle versioni nei notebook. Così puoi vedere le modifiche, lavorare con altri e tornare alle versioni precedenti se necessario.
Proteggi i dati con controlli di accesso rigorosi. Usa la sicurezza a livello di riga e di colonna per proteggere i dati riservati e controllare chi può vederli o modificarli.
Perché passare alla trasformazione dei dati basata sul codice
Problemi dei flussi ETL tradizionali
Probabilmente hai usato Power Query, Excel o script per la trasformazione dei dati. Questi strumenti possono creare problemi quando i dati crescono. Potresti trovare file chiamati "final_v2_REAL.xlsx" senza sapere quale sia quello corretto. Fare le cose a mano rende difficile capire cosa è cambiato. Le pipeline possono interrompersi se i dati cambiano. Risolvere questi problemi richiede molto tempo e impegno.
Se usi molti strumenti diversi, puoi perdere di vista da dove provengono i dati. Inoltre, puoi commettere errori difficili da individuare.
Vantaggi di Fabric Notebooks e Lakehouse
Fabric Notebooks e Lakehouse ti aiutano a eseguire meglio la trasformazione dei dati. Scrivi il codice in un unico punto. Puoi usare Git per tenere traccia di ogni modifica. Questo rende semplice verificare il lavoro e ripeterlo. Puoi lavorare con milioni di righe senza spostare i dati in altri strumenti.
Ecco in che modo i notebook basati sul codice e collegati a Git si differenziano dai vecchi strumenti ETL:
Caratteristica | Fabric Notebooks (basati sul codice) | Strumenti ETL tradizionali | Vantaggi |
|---|---|---|---|
✅ A livello di colonna | ⚠️ A livello di tabella | Risoluzione dei problemi più semplice e maggiore visibilità | |
Auditabilità | ✅ Storico completo (Git) | ⚠️ Limitato | Monitoraggio chiaro delle modifiche |
Collaborazione | ✅ Base di codice centralizzata | ⚠️ Script e file sparsi | I team lavorano insieme, con meno confusione |
Puoi definire le regole di business in un unico punto. I team possono usarle in dashboard e report. Questo aiuta a evitare errori e mantiene tutti allineati. Permette inoltre al team di esplorare i dati in sicurezza.
I livelli basati sul codice ti permettono di:
Tenere traccia di ogni passaggio della pipeline.
Riutilizzare la stessa logica in più progetti.
Scalare man mano che i dati crescono.
Cambio di mentalità: i notebook come livello di trasformazione
Dovresti considerare i notebook come il punto centrale della trasformazione dei dati. I notebook sono la tua unica fonte di verità. Puoi verificare, testare e condividere il tuo lavoro. Puoi usare i parametri per passare dai test all'uso reale. In questo modo hai più controllo e puoi fidarti dei tuoi dati.
Considera il notebook come il piano dei tuoi dati. Vedrai cosa succede in ogni passaggio.
Il pattern di trasformazione dei dati Bronze-Silver-Gold
Il pattern Bronze-Silver-Gold ti aiuta a organizzare il processo di trasformazione dei dati. I dati attraversano tre fasi distinte. Ogni fase ha un compito specifico. Questo pattern rende la pipeline più facile da gestire e più affidabile.
Bronze: acquisizione dei dati grezzi
Si parte dal livello Bronze. Qui importi i dati grezzi da diverse fonti. Non modifichi ancora i dati: li raccogli e li conservi in modo sicuro. Questo passaggio mantiene al sicuro i dati originali per usi futuri.
Puoi usare diversi metodi per caricare i dati nel livello Bronze. La tabella seguente mostra alcuni dei modi più comuni:
Metodo | Descrizione |
|---|---|
Attività di copia diretta | Usala per l'ingestione semplice di dati grezzi. |
Collegamenti (shortcut) | Puntano direttamente ai dati di origine, senza trasformazioni. |
Notebook PySpark | Usali per la conversione del formato o per il parsing iniziale. |
Dovresti sempre imporre uno schema quando carichi i dati. In questo modo individui subito gli errori. Se trovi righe non valide, puoi metterle in quarantena. Così i dati restano puliti fin dall'inizio.
Suggerimento: conserva sempre una copia dei dati grezzi. Potrebbe servirti per correggere i problemi o per verificare il lavoro in un secondo momento.
Silver: pulizia e conformità dei dati
Il livello Silver è dove pulisci e standardizzi i dati. Correggi gli errori, rimuovi i duplicati e fai in modo che i dati rispettino le regole di business. Inoltre unisci le tabelle e aggiungi i valori mancanti, se necessario.
In questo livello dovresti:
Verificare che ogni colonna abbia il tipo corretto.
Rimuovere o correggere le righe che non rispettano le regole.
Eliminare i duplicati per non contare le cose due volte.
Gestire i dati che cambiano lentamente, come gli indirizzi dei clienti.
Per il lavoro usi strumenti come PySpark o pandas nel notebook. Questo ti permette di scrivere passaggi chiari per ogni modifica. Puoi testare il lavoro e verificare che sia corretto prima di passare alla fase successiva.
Nota: esegui controlli canary dopo ogni passaggio importante. Ad esempio, verifica il numero di righe o cerca un numero eccessivo di valori vuoti. Questo ti aiuta a individuare i problemi in anticipo.
Gold: feature engineering per analytics e ML
Il livello Gold prepara i dati per l'analisi e il machine learning. Crei nuove feature, come i ritardi temporali o i gruppi di clienti. Inoltre costruisci tabelle pronte per dashboard o modelli.
In questo livello dovresti:
Creare feature che aiutino il business a rispondere alle domande.
Partizionare le tabelle per rendere più veloci le query.
Usare le tabelle Delta per tenere traccia delle modifiche e ripristinare una versione precedente, se necessario.
Dovresti sempre scrivere i dati in modo idempotente. Questo significa che puoi eseguire la pipeline più volte senza commettere errori o contare due volte gli stessi dati. Puoi usare gli snapshot Delta per salvare le versioni delle tabelle. Se qualcosa va storto, puoi tornare a una copia sicura.
Ricorda: il livello Gold è dove i dati acquistano il massimo valore. Dedica particolare attenzione alla verifica del lavoro e mantieni i dati affidabili.
Seguendo il pattern Bronze-Silver-Gold, costruisci una solida pipeline di Data Transformation. Mantieni i dati sicuri, puliti e pronti per qualsiasi progetto di analisi o machine learning.
Orchestrare la Data Transformation con notebook e Spark
Lettura e scrittura delle tabelle Delta
Puoi usare Spark nei notebook di Fabric per lavorare con le tabelle Delta. Questo ti permette di gestire milioni di righe in tempi molto rapidi. Non devi spostare i dati né correggere le cose a mano. Se attivi il Native Execution Engine, i tuoi job possono essere eseguiti fino a cinque volte più velocemente. Puoi modificare impostazioni come spark.sql.files.maxPartitionBytes e spark.sql.shuffle.partitions per adattarle alla dimensione dei dati. Auto Compaction aiuta quando ci sono molte scritture di piccole dimensioni e rende le tabelle più veloci da interrogare. Molte aziende constatano che, grazie a questi accorgimenti, i cicli ELT diventano il 30% più veloci e le query risultano 1,2 volte migliori.
Suggerimento: le tabelle Delta conservano i dati in versioni. Puoi annullare le modifiche se commetti un errore.
Parametrizzazione e gestione degli ambienti
Dovresti usare i parametri nei notebook. Questo ti permette di passare dal test al lavoro reale. Aiuta a evitare errori e a proteggere i dati. Prevedi un piano per tenere separati i dati di test e quelli reali. Puoi inoltre usare un piano del catalogo per organizzare i metadati e proteggere le informazioni riservate. Questo rende più facile controllare chi può vedere cosa e rispettare le regole aziendali.
Usa i parametri per:
Percorsi dei file
ID dei workspace
Feature flag
Nota: i parametri permettono ai notebook di funzionare per più team e li mantengono sicuri.
Automatizzare e pianificare i flussi di lavoro
Puoi configurare i notebook in modo che vengano eseguiti autonomamente secondo una pianificazione. Così non devi eseguire i passaggi a mano né usare file CSV. Strumenti come dbt Cloud, Meltano e Prefect ti aiutano a monitorare e controllare le pipeline. dbt Cloud è adatto ai job SQL. Meltano è gratuito e funziona con Git. Prefect usa Python e offre retry, caching e log.
Gli strumenti di automazione ti aiutano a:
Configurare le esecuzioni
Monitorare lo stato delle pipeline
Ridurre il lavoro manuale
Se automatizzi i tuoi flussi di lavoro, commetti meno errori e ricavi più valore dai tuoi dati.
Governance, verificabilità e buone pratiche
Integrazione con Git e revisione del codice
Git ti aiuta a tenere traccia di ogni modifica ai tuoi notebook. Puoi vedere chi ha apportato le modifiche e quando. Prova nuove idee in un branch prima di aggiungerle al progetto principale. La revisione del codice permette al tuo team di trovare subito gli errori. Tutti possono lavorare insieme senza perdere il lavoro degli altri. Se fai un pasticcio, puoi tornare a una versione sicura.
Vantaggio | Descrizione |
|---|---|
Sai sempre chi ha apportato le modifiche e quando. | |
Sperimenta senza timori | Prova cose nuove in un branch e aggiungile quando sei pronto. |
Collabora in modo efficiente | Più persone possono lavorare insieme senza perdere il lavoro. |
Ripristino in qualsiasi momento | Se commetti un errore, puoi tornare a una versione precedente. |
Trasparenza e responsabilità | Ogni modifica viene salvata, così puoi vedere cosa è successo. |
Revisioni del codice migliorate | Git semplifica il controllo e la correzione del codice. |
Struttura e sicurezza | Con Git il tuo progetto resta ordinato e sicuro. |
Suggerimento: usa sempre le pull request per le modifiche. Così il tuo codice resta sicuro e più facile da verificare.
Guardrail: controlli dello schema e query canary
I guardrail aiutano a proteggere i tuoi dati. I controlli dello schema verificano che le tabelle abbiano le colonne e i tipi corretti. Le query canary controllano la presenza di problemi dopo ogni passaggio. Analizzano il numero di righe, i valori vuoti e i numeri chiave. Questi controlli ti aiutano a individuare i problemi prima che raggiungano le dashboard.
I controlli possono individuare subito dati mancanti o errati.
Le correzioni automatiche possono risolvere i problemi più comuni sfruttando le risposte passate.
I deployment canary testano le modifiche rischiose su una piccola parte dei tuoi dati.
Nota: controlla sempre lo schema prima di spostare i dati nel passaggio successivo.
Sicurezza e controlli di accesso
Puoi proteggere i tuoi dati con una sicurezza solida in Microsoft Fabric Lakehouse. OneLake Security ti permette di definire regole su chi può vedere o modificare i dati. La sicurezza a livello di riga e di colonna controlla cosa può visualizzare ciascuna persona. Per gestire gli accessi puoi usare la User Identity Mode o la Delegated Identity Mode. Le scorciatoie sicure proteggono i dati di origine, anche con sorgenti remote.
La protezione dell'accesso in uscita dei workspace blocca le connessioni indesiderate.
Gli endpoint privati gestiti ti permettono di consentire solo risorse esterne attendibili.
La connettività tra workspace ti permette di condividere in sicurezza tra i workspace.
Controlla sempre le impostazioni di accesso per proteggere i tuoi dati.
Vittorie rapide e anti-pattern
Puoi migliorare la tua pipeline:
Spostando una pipeline sui notebook con tracciamento Git.
Aggiungendo controlli dello schema e query canary.
Usando parametri per tutti i percorsi e gli ID dei workspace.
Usando le pull request per ogni modifica.
Evita queste cose:
Mescolare pipeline basate su notebook con correzioni manuali in Excel.
Riscrivere i CSV e ricaricarli in Power BI.
Inserire segreti o percorsi direttamente nel codice (hard-coding).
Usare un unico notebook enorme per tutto.
Piccole modifiche possono rendere la tua pipeline dei dati più sicura e più facile da usare.
Integrazione con Power BI e Machine Learning
Creare modelli semantici sulle tabelle Gold
Le tabelle Gold possono aiutarti a ricavare più valore dai tuoi dati. In Power BI crei modelli semantici per organizzare i dati. Questi modelli rendono più semplici l'analisi e la reportistica. Se applichi le buone pratiche, i tuoi modelli saranno più utili e più facili da condividere.
Considera i modelli semantici come prodotti. Assegna a ogni modello un nome chiaro e uno scopo preciso.
Costruisci modelli con definizioni semplici. Assicurati che tutti sappiano cosa significa ogni campo.
Tieni traccia delle versioni dei modelli e annota le modifiche. Spiega come usare ciascun modello.
Condividi i modelli con altri team per garantire coerenza. Così tutti usano gli stessi dati e le stesse regole.
Suggerimento: buone note e significati chiari aiutano le persone a fidarsi dei tuoi modelli e a usarli.
Feature store ML e addestramento dei modelli
Un feature store ti aiuta a tenere traccia dei dati per il machine learning. Puoi salvare le feature in un unico punto, sia per l'addestramento sia per le previsioni. Questo aiuta i tuoi modelli a restare corretti e affidabili. I feature store ti aiutano a evitare errori usando gli stessi dati in entrambe le fasi. Mostrano da dove arrivano le feature e come cambiano. Questo rende più facile risolvere i problemi e rifare il lavoro. Puoi condividere e riutilizzare le feature con il tuo team. Questo fa risparmiare tempo e aiuta tutti a ottenere risultati migliori.
Automatizzare l'aggiornamento e la distribuzione dei modelli
Puoi usare l'utilità di pianificazione dei processi in Microsoft Fabric per aggiornare i dati e distribuire i modelli automaticamente. La pianificazione ti permette di impostare l'esecuzione dei processi a orari precisi. Puoi gestire molte pianificazioni e collegarle al tuo processo di lavoro. Così dati e modelli restano aggiornati senza interventi manuali. L'automazione riduce gli errori e rende il tuo flusso di lavoro più solido.
Nota: l'automazione ti permette di dedicare più tempo alle analisi e alle decisioni, non al lavoro manuale.
Puoi fidarti di più dei tuoi dati quando usi un approccio code-first con i Notebook di Microsoft Fabric e il Lakehouse. Il pattern Bronze-Silver-Gold, delle regole valide e l'automazione ti aiutano a far crescere l'analisi dei dati e il machine learning. Inizia spostando una pipeline e aggiungi dei controlli per mantenere tutto al sicuro. Poi valuta le funzionalità che fanno davvero la differenza:
Delta Live Tables fanno funzionare le pipeline in autonomia e fanno risparmiare tempo.
Liquid Clustering rende le query più veloci e riduce i costi.
Il monitoraggio basato sull'AI ti aiuta a trovare rapidamente le query lente.
Per i prossimi passi, prova i laboratori pratici, guarda i video degli esperti oppure completa il corso DP-700 per approfondire.
Domande frequenti
Qual è il vantaggio principale dell'uso dei Notebook di Fabric per la trasformazione dei dati?
Hai un unico punto in cui scrivere, testare e monitorare i passaggi sui dati. Questo rende il lavoro più facile da verificare e da ripetere. Puoi anche lavorare con grandi insiemi di dati senza spostare i file.
In che modo il pattern Bronze-Silver-Gold aiuta la mia pipeline di dati?
Questo pattern ti aiuta a organizzare i dati in fasi chiare. Conservi al sicuro i dati grezzi, li puliti e poi crei le feature per report o modelli. Puoi risolvere i problemi più in fretta e fidarti dei risultati.
Posso usare Git con i Notebook di Fabric?
Sì, puoi collegare i tuoi notebook a Git. Questo ti permette di tenere traccia delle modifiche, rivedere il codice e lavorare con il tuo team. Se ti serve, puoi sempre tornare a una versione precedente.
Come posso proteggere i dati nel Lakehouse?
Imposta delle regole su chi può vedere o modificare i dati. Usa la sicurezza a livello di riga e di colonna. Puoi anche usare endpoint gestiti e controlli dell'area di lavoro per proteggere i dati.
Posso automatizzare i flussi di lavoro di dati e ML?
Sì! Puoi pianificare l'esecuzione dei notebook a orari stabiliti. Puoi anche aggiornare i dati e distribuire i modelli senza farlo a mano. Così risparmi tempo e riduci gli errori.
Ti consigliamo anche di ascoltare
Se stai esplorando i notebook e il lakehouse di Microsoft Fabric, questi episodi offrono un contesto pratico su piattaforme dati Microsoft, architettura dell'AI, governance e automazione.
- Azure AI Foundry – Simply Explained — Scopri come vengono progettate e governate le soluzioni di AI aziendali.
- Microsoft AI Agent Harness – Simply Explained — Esplora orchestrazione, valutazione e osservabilità affidabili.
- Microsoft Teams Governance – Simply Explained — Scopri come le regole sul ciclo di vita e sulla proprietà rendono la collaborazione gestibile.
Questi episodi ti aiutano a collegare il tema dell'articolo alle decisioni pratiche su architettura e adozione.