M365Con 2027 – conferencia online gratuita · 11–22 Jan 2027 · 120 sessions→ m365con.net

Blog · Mirko Peters

Microsoft Fabric Notebooks y Lakehouse

By · · Updated

Crea flujos de transformación de datos y de aprendizaje automático con los notebooks de Microsoft Fabric y el lakehouse para lograr analítica escalable.

Automatically translated with AI from the original post. Read the English original

Cover: Azure AI Foundry - Simply Explained

Los flujos ETL tradicionales pueden ser lentos. Tienen muchos pasos manuales y también requieren mucho mantenimiento. Estos son algunos de los problemas más comunes:

Limitación

Descripción

Esfuerzo manual

Dedicas más tiempo a escribir scripts y a actualizar datos.

Altos costes de mantenimiento

A medida que crecen tus datos, requieren más tiempo y dinero.

Problemas con esquemas fijos

Los cambios en los datos pueden romper tus pipelines. Corregirlos lleva mucho tiempo.

Cuando usas notebooks para la transformación de datos, tienes un lugar principal para tus datos. El patrón Bronze-Silver-Gold con Spark y Lakehouse mejora la calidad de tus datos. También te ayuda a seguir el origen de cada dato. Recibes retroalimentación clara y puedes colaborar con tu equipo. Así, todos trabajan alineados.

Puntos clave

Por qué pasar a la transformación de datos basada en código

Desafíos de los flujos ETL tradicionales

Quizá hayas usado Power Query, Excel o scripts para la transformación de datos. Estas herramientas pueden causar problemas cuando los datos crecen. Puede que veas archivos llamados "final_v2_REAL.xlsx" sin saber cuál es el correcto. Hacer las cosas a mano dificulta saber qué cambió. Los pipelines pueden romperse si cambian los datos. Solucionar estos problemas requiere mucho tiempo y esfuerzo.

Si usas muchas herramientas, puedes perder la pista del origen de tus datos. También puedes cometer errores difíciles de detectar.

Ventajas de Fabric Notebooks y Lakehouse

Fabric Notebooks y Lakehouse te ayudan a hacer mejor la transformación de datos. Escribes tu código en un solo lugar y puedes usar Git para registrar cada cambio. Esto facilita revisar tu trabajo y repetirlo. Puedes trabajar con millones de filas sin mover los datos a otras herramientas.

Así se diferencian los notebooks basados en código con control de versiones de las herramientas ETL tradicionales:

Característica

Fabric Notebooks (basado en código)

Herramientas ETL tradicionales

Beneficios

Linaje de extremo a extremo

✅ A nivel de columna

⚠️ A nivel de tabla

Solución de problemas y visibilidad más sencillas

Auditabilidad

✅ Historial completo (Git)

⚠️ Limitado

Seguimiento claro de los cambios

Colaboración

✅ Base de código centralizada

⚠️ Scripts y archivos dispersos

Los equipos trabajan juntos y hay menos confusión

Puedes definir las reglas de negocio en un solo lugar. Los equipos pueden usar estas reglas en paneles e informes. Esto ayuda a evitar errores y mantiene a todos alineados. También permite que tu equipo explore los datos de forma segura.

Cambio de mentalidad: los notebooks como capa de transformación

Debes considerar los notebooks como el lugar principal para la transformación de datos. Son tu única fuente de verdad. Puedes revisar, probar y compartir tu trabajo. Puedes usar parámetros para cambiar entre pruebas y uso real. Así tienes más control y puedes confiar en tus datos.

Piensa en tu notebook como el plan de tus datos. Verás qué ocurre en cada paso.

El patrón de transformación de datos Bronze-Silver-Gold

El patrón Bronze-Silver-Gold te ayuda a organizar el proceso de transformación de datos. Mueves los datos a través de tres etapas claras, y cada una tiene una función específica. Este patrón hace que tu pipeline de datos sea más fácil de gestionar y más confiable.

Bronze: ingesta de datos sin procesar

Empiezas por la capa Bronze. Aquí traes datos sin procesar de distintas fuentes. Todavía no cambias los datos: solo los recopilas y los guardas de forma segura. Este paso conserva tus datos originales para usos futuros.

Puedes usar varios métodos para cargar datos en la capa Bronze. En la siguiente tabla se muestran algunas formas habituales:

Método

Descripción

Actividades de copia directa

Úsalas para la ingesta sencilla de datos sin procesar.

Accesos directos

Apuntan directamente a los datos de origen sin transformación.

Cuadernos de PySpark

Úsalos para la conversión de formato o el análisis inicial.

Conviene que siempre apliques un esquema al cargar los datos. Así detectarás los errores desde el principio. Si encuentras filas incorrectas, puedes ponerlas en cuarentena. De este modo, tus datos se mantienen limpios desde el inicio.

Consejo: guarda siempre una copia de tus datos sin procesar. Es posible que la necesites para corregir problemas o revisar tu trabajo más adelante.

Silver: limpieza y conformidad de datos

La capa Silver es donde limpias y estandarizas tus datos. Corriges errores, eliminas duplicados y te aseguras de que los datos cumplan tus reglas de negocio. También unes tablas y completas los valores que falten, si es necesario.

En esta capa, deberías:

Utilizas herramientas como PySpark o pandas en tu cuaderno. Esto te permite escribir pasos claros para cada cambio. Puedes probar tu trabajo y comprobar que es correcto antes de continuar.

Nota: usa comprobaciones de control (canary checks) después de cada paso importante. Por ejemplo, verifica el número de filas o busca demasiados valores vacíos. Así detectarás los problemas a tiempo.

Gold: ingeniería de características para analítica y ML

La capa Gold prepara tus datos para la analítica y el aprendizaje automático. Creas nuevas características, como desfases temporales o grupos de clientes. También construyes tablas listas para paneles o modelos.

En esta capa, deberías:

Conviene que siempre escribas los datos de forma idempotente. Esto significa que puedes ejecutar tu pipeline muchas veces sin cometer errores ni contar dos veces los mismos datos. Puedes usar instantáneas de Delta para guardar versiones de tus tablas. Si algo sale mal, puedes volver a una copia segura.

Recuerda: la capa Gold es donde tus datos adquieren más valor. Pon especial cuidado en revisar tu trabajo y mantenerlo fiable.

Al seguir el patrón Bronze-Silver-Gold, construyes un sólido pipeline de transformación de datos. Mantienes tus datos seguros, limpios y listos para cualquier análisis o proyecto de aprendizaje automático.

Orquestación de la transformación de datos con cuadernos y Spark

Lectura y escritura de tablas Delta

Puedes usar Spark en los cuadernos de Fabric para trabajar con tablas Delta. Esto te permite procesar millones de filas muy rápido. No necesitas mover datos ni corregir cosas a mano. Si activas el Native Execution Engine, tus trabajos pueden ejecutarse hasta cinco veces más rápido. Puedes ajustar opciones como spark.sql.files.maxPartitionBytes y spark.sql.shuffle.partitions para adaptarlas al tamaño de tus datos. La compactación automática ayuda con las escrituras pequeñas y frecuentes. Hace que tus tablas se consulten más rápido. Muchas empresas ven ciclos ELT un 30 % más rápidos y consultas 1,2 veces mejores al aplicar estas prácticas.

Consejo: las tablas Delta guardan tus datos en versiones. Puedes deshacer los cambios si cometes un error.

Parametrización y gestión de entornos

Deberías usar parámetros en tus cuadernos. Esto te permite cambiar entre pruebas y trabajo real. Ayuda a evitar errores y mantiene tus datos seguros. Crea un plan para separar los datos de prueba de los datos reales. También puedes usar un plan de catálogo para organizar tus metadatos y proteger la información privada. Así es más fácil controlar quién puede ver qué y cumplir las normas de la empresa.

Nota: los parámetros permiten que tus cuadernos funcionen para muchos equipos y los mantienen seguros.

Automatización y programación de flujos de trabajo

Puedes configurar tus cuadernos para que se ejecuten solos según una programación. Así no necesitas hacer pasos a mano ni usar archivos CSV. Herramientas como dbt Cloud, Meltano y Prefect te ayudan a supervisar y controlar tus pipelines. dbt Cloud es ideal para trabajos en SQL. Meltano es gratuito y funciona con Git. Prefect usa Python e incluye reintentos, caché y registros.

Si automatizas tus flujos de trabajo, cometes menos errores y obtienes más valor de tus datos.

Gobernanza, auditabilidad y buenas prácticas

Integración con Git y revisión de código

Git te ayuda a llevar un registro de cada cambio en tus cuadernos. Puedes ver quién hizo cambios y cuándo los hizo. Prueba nuevas ideas en una rama antes de incorporarlas al proyecto principal. La revisión de código permite que tu equipo detecte errores a tiempo. Todos pueden trabajar juntos sin perder el trabajo de los demás. Si cometes un error, puedes volver a una versión segura.

Beneficio

Descripción

Registra cada cambio

Siempre sabes quién hizo cambios y cuándo.

Experimenta sin miedo

Prueba cosas nuevas en una rama y añádelas cuando estén listas.

Colabora de forma eficiente

Muchas personas pueden trabajar juntas sin perder trabajo.

Revierte en cualquier momento

Si cometes un error, puedes volver a una versión anterior.

Transparencia y responsabilidad

Cada cambio se guarda, así que puedes ver qué ha pasado.

Revisiones de código mejoradas

Git facilita revisar y corregir el código.

Estructura y seguridad

Con Git, tu proyecto se mantiene organizado y seguro.

Consejo: usa siempre solicitudes de extracción (pull requests) para los cambios. Así tu código se mantiene seguro y es más fácil de revisar.

Barreras de protección: comprobaciones de esquema y consultas canario

Las barreras de protección ayudan a mantener tus datos seguros. Las comprobaciones de esquema garantizan que tus tablas tengan las columnas y los tipos correctos. Las consultas canario detectan problemas después de cada paso. Revisan el número de filas, los valores vacíos y las cifras clave. Estas comprobaciones te ayudan a encontrar incidencias antes de que lleguen a tus paneles.

Nota: comprueba siempre el esquema antes de pasar los datos al siguiente paso.

Seguridad y controles de acceso

Puedes mantener tus datos protegidos con una seguridad sólida en Microsoft Fabric Lakehouse. OneLake Security te permite definir reglas sobre quién puede ver o modificar los datos. La seguridad a nivel de fila y de columna controla lo que ve cada persona. Para gestionar el acceso, puedes usar User Identity Mode o Delegated Identity Mode. Los accesos directos seguros protegen tus datos de origen, incluso con orígenes remotos.

Revisa siempre tu configuración de acceso para mantener tus datos protegidos.

Victorias rápidas y antipatrones

Puedes mejorar tu canal de datos (pipeline) de estas formas:

No hagas estas cosas:

Los cambios pequeños pueden hacer que tu pipeline de datos sea más seguro y fácil de usar.

Integración con Power BI y Machine Learning

Crear modelos semánticos sobre tablas Gold

Las tablas Gold pueden ayudarte a sacar más partido a tus datos. Creas modelos semánticos en Power BI para organizar los datos. Estos modelos facilitan el análisis y los informes. Si aplicas buenas prácticas, tus modelos serán más útiles y fáciles de compartir.

Consejo: las buenas notas y los significados claros ayudan a que las personas confíen en tus modelos y los usen.

Almacén de características de ML y entrenamiento de modelos

Un almacén de características te ayuda a llevar el control de los datos para el aprendizaje automático. Puedes guardar las características en un solo lugar para el entrenamiento y las predicciones. Esto ayuda a que tus modelos sigan siendo correctos y fiables. Los almacenes de características te ayudan a evitar errores usando los mismos datos en ambos pasos. Muestran de dónde proceden las características y cómo cambian. Esto facilita corregir problemas y repetir tu trabajo. Puedes compartir y reutilizar características con tu equipo. Esto ahorra tiempo y ayuda a que todos obtengan mejores resultados.

Automatización de la actualización y el despliegue de modelos

Puedes usar el programador de trabajos en Microsoft Fabric para actualizar datos y desplegar modelos automáticamente. El programador te permite configurar trabajos para que se ejecuten a horas determinadas. Puedes gestionar muchas programaciones y conectarlas a tu proceso de trabajo. Así, tus datos y modelos se mantienen actualizados sin hacer tareas manuales. La automatización te ayuda a cometer menos errores y mantiene tu flujo de trabajo sólido.

Nota: la automatización te permite dedicar más tiempo a los análisis y las decisiones, y menos al trabajo manual.

Puedes confiar más en tus datos cuando usas el enfoque code-first con Microsoft Fabric Notebooks y el Lakehouse. El patrón Bronze-Silver-Gold, unas buenas reglas y la automatización te ayudan a hacer crecer la analítica y el aprendizaje automático. Empieza por migrar una sola canalización y añade comprobaciones para mantenerla segura. Después, fíjate en las funciones que realmente aportan valor:

Para tus próximos pasos, prueba los laboratorios prácticos, mira vídeos de expertos o completa el curso DP-700 para aprender más.

Preguntas frecuentes

¿Cuál es el principal beneficio de usar Fabric Notebooks para la transformación de datos?

Tienes un solo lugar donde escribir, probar y hacer seguimiento de tus pasos con los datos. Esto facilita revisar y repetir tu trabajo. Además, puedes trabajar con grandes conjuntos de datos sin mover archivos.

¿Cómo me ayuda el patrón Bronze-Silver-Gold en mi canalización de datos?

Este patrón te ayuda a organizar los datos en pasos claros. Conservas a salvo los datos sin procesar, limpias los datos y, después, creas características para informes o modelos. Así puedes corregir problemas más rápido y confiar en tus resultados.

¿Puedo usar Git con Fabric Notebooks?

Sí, puedes conectar tus cuadernos a Git. Esto te permite hacer seguimiento de los cambios, revisar el código y trabajar con tu equipo. Siempre puedes volver a una versión anterior si la necesitas.

¿Cómo mantengo seguros mis datos en el Lakehouse?

Defines reglas sobre quién puede ver o modificar los datos. Usas seguridad a nivel de fila y de columna. También puedes usar puntos de conexión administrados y controles de área de trabajo para proteger tus datos.

¿Puedo automatizar mis flujos de trabajo de datos y de ML?

¡Sí! Puedes programar cuadernos para que se ejecuten a horas determinadas. También puedes actualizar datos y desplegar modelos sin hacerlo a mano. Esto te ahorra tiempo y reduce los errores.

También te puede interesar

Si estás explorando cuadernos de Microsoft Fabric y lakehouse, estos episodios aportan contexto práctico sobre las plataformas de datos de Microsoft, la arquitectura de IA, la gobernanza y la automatización.

Estos episodios ayudan a conectar el tema del artículo con las decisiones prácticas de arquitectura e implantación.

Fabric notebooks Microsoft Excel Power Query

Related articles

RSS