패브릭 노트북과 데이터 흐름 중 선택하기: 비개발자를 위한 가이드
By Mirko Peters ·
Microsoft Fabric 노트북과 데이터 흐름을 비교합니다. 기술 수준과 데이터 요구 사항에 따라 로우 코드 데이터 흐름과 Spark 노트북 중 언제 무엇을 써야 하는지 알아봅니다.
Automatically translated with AI from the original post. Read the English original

클라우드 데이터 생태계에 익숙하지 않은 분석가에게는 Microsoft Fabric Spark 노트북과 데이터 흐름 중 하나를 고르는 일이 부담스러울 수 있습니다. 이 가이드는 복잡도, 규모, 유지 관리 요구 사항을 기준으로 로우 코드 데이터 흐름과 코드 중심의 노트북을 비교하여, 비개발자가 적합한 Microsoft Fabric 데이터 변환 도구를 선택하도록 돕습니다.
핵심 요약
- 데이터 흐름은 표준 Power Query 변환과 반복 가능한 데이터 수집에 적합한 시각적 로우 코드 인터페이스를 제공합니다.
- Fabric 노트북은 Spark와 코드(Python 또는 PySpark)를 사용하여 복잡한 머신 러닝, 반복 로직, 대용량 데이터 세트를 처리합니다.
- 비개발자는 일반적으로 데이터 흐름부터 시작하고, 특정 성능 문제나 맞춤형 로직의 한계에 부딪힐 때에만 노트북으로 전환하는 것이 좋습니다.
- 전담 소프트웨어 엔지니어가 없는 팀의 경우, 적합한 도구를 선택하면 불필요한 코드 유지 관리 부담을 피할 수 있습니다.
- 두 도구 모두 더 넓은 Microsoft Fabric 레이크하우스 및 웨어하우스 아키텍처와 자연스럽게 통합됩니다.
Fabric 데이터 환경 이해하기
Microsoft Fabric을 처음 접하면 작업 영역에 있는 항목의 수에 머리가 복잡해질 수 있습니다. 데이터 엔지니어, 데이터 과학자, 비즈니스 인텔리전스 분석가가 하나의 통합 분석 플랫폼을 함께 사용하게 됩니다. 가장 흔한 혼란 중 하나는 데이터 준비를 위한 기본 엔진을 고르는 일입니다. 시각적인 데이터 흐름을 만들어야 할까요, 아니면 코드 중심의 노트북을 열어야 할까요?
데이터 전문가들은 수십 년 동안 이 선택의 문제로 고민해 왔습니다. 한쪽에는 기반 엔진을 추상화한 그래픽 사용자 인터페이스가 있고, 다른 쪽에는 Python이나 Scala 코드를 기다리는 빈 편집기가 있습니다. Fabric에서 이는 Dataflows Gen2와 Spark 노트북 사이의 선택으로 직결됩니다. 각 도구를 언제 써야 하는지 이해하는 것은 분석가를 지치게 하지 않으면서 깔끔하고 확장 가능한 데이터 환경을 유지하는 데 매우 중요합니다.
Dataflow Gen2란 무엇입니까?
Microsoft Fabric의 Dataflows Gen2는 Power Query의 클라우드 네이티브 진화형입니다. Power BI에서 보고서를 만들어 본 적이 있다면 Power Query 편집기를 사용해 보았을 가능성이 높습니다. 데이터 흐름은 이 익숙한 변환 환경을 가져와 Fabric 안에서 네이티브로 실행되도록 확장합니다.
데이터 흐름은 근본적으로 시각적입니다. 버튼을 클릭해 열을 제거하고, 테이블을 병합하고, 데이터 형식을 변경하고, 행을 필터링합니다. 내부적으로 Power Query는 이러한 작업을 M 코드로 변환하지만, 원하지 않는 한 이를 직접 볼 필요는 거의 없습니다. 그래서 보고서용 데이터를 이미 다듬을 줄 아는 비즈니스 분석가와 파워 사용자에게 데이터 흐름은 매우 접근하기 쉽습니다.
노트북의 강력함과 복잡성
반대로 노트북은 Apache Spark를 위해 만들어졌습니다. Fabric 노트북을 처음 열면 개발자의 놀이터처럼 보이는 화면, 즉 코드 셀, 낯선 오류 메시지, Spark 풀의 구성 옵션이 나타납니다.
노트북은 완전한 제어권을 제공합니다. 사용자 지정 Python 스크립트를 작성하고, 머신 러닝 알고리즘을 실행하고, 비정형 파일을 처리하고, 시각적 도구로는 지원할 수 없는 복잡한 반복 로직을 다룰 수 있습니다. 하지만 이러한 강력함에는 가파른 학습 곡선이 따릅니다. 주된 업무가 일반적인 판매 테이블을 정리하는 것이라면, 노트북에 들어서는 순간 엔진 오일만 갈면 되는데 자동차 엔진을 만들려는 것처럼 느껴질 수 있습니다.
의사 결정 매트릭스: 데이터플로우 대 노트북
다음 데이터 파이프라인에 적합한 선택을 하려면, 특정 시나리오를 각 도구의 강점과 비교해 평가해야 합니다. 첫 번째 코드를 작성하거나 첫 번째 변환 단계를 클릭하기 전에 고려해야 할 핵심 기준을 함께 살펴보겠습니다.
데이터 규모에 대한 고려 사항
Dataflows Gen2는 Fabric의 백엔드 기능을 활용해 상당한 양의 데이터를 처리할 수 있지만, 극도로 방대한 데이터 세트나 복잡한 분산 컴퓨팅 작업에서는 Spark 노트북이 진가를 발휘합니다. 테라바이트 규모의 로그 파일을 처리하거나, 실시간 텔레메트리를 스트리밍하거나, 여러 이질적인 소스에 걸친 대규모 분산 조인을 실행해야 한다면 노트북이 필요한 컴퓨팅 성능을 제공합니다.
반대로 관계형 데이터베이스나 SaaS 애플리케이션에 있는 일반적인 엔터프라이즈 트랜잭션 데이터와 차원 데이터의 경우, 데이터플로우는 Spark 컴퓨팅 세션을 생성하고 관리하는 부담 없이도 충분한 성능을 제공합니다.
팀의 기술 역량과 유지 관리
아키텍처 결정에서 가장 간과되기 쉬운 요소 중 하나가 장기적인 유지 관리입니다. 6개월 뒤 이 파이프라인을 누가 지원할까요? 노트북 안에서 사용자 지정 Python 코드로 복잡한 파이프라인을 구축했는데, 이를 유지 관리하는 팀이 SQL과 Power Query만 안다면 운영상의 병목 현상을 만든 셈입니다.
유지 관리성은 단순함에서 나옵니다. 작업을 데이터플로우로 깔끔하게 처리할 수 있다면 로우 코드 방식을 유지하는 것이 대개 현명합니다. 비즈니스 로직이 고급 프로그래밍 기능이나 데이터 과학 통합을 실제로 요구하는 시나리오에서만 노트북을 사용하십시오.
간극 해소: 실용적인 워크플로
조직 전체에서 도구 하나만 선택할 필요는 없습니다. 실제로 성숙한 Fabric 아키텍처는 두 도구를 조화롭게 함께 사용하는 경우가 많습니다. 개발자가 아닌 사용자에게 좋은 방법은 탐색부터 시작하는 것입니다.
데이터플로우를 사용해 핵심 차원 테이블을 수집, 정리하고 레이크하우스에 적재하십시오. 데이터가 구조화되어 신뢰할 수 있게 되면, 고급 분석, 머신 러닝 모델 학습, 또는 프로그래밍 방식의 제어가 필요한 전문 데이터 과학 작업을 위해 노트북을 도입할 수 있습니다.
아키텍처를 역할별로 구분하면 비즈니스 분석가는 익숙한 기술 범위 안에서 편안하게 작업할 수 있고, 데이터 엔지니어와 고급 실무자는 필요할 때 Spark의 전체 성능을 활용할 수 있습니다.
결론
Fabric 노트북과 데이터플로우 중 무엇을 선택할지는 기본값으로 가장 복잡한 옵션을 고르기보다, 도구를 실제 비즈니스 요구 사항에 맞추는 것으로 귀결됩니다. 먼저 데이터 규모, 팀의 기술 역량, 변환 로직의 복잡성을 평가하십시오. 코드 기반 도구에 대한 초기 부담감을 넘어서는 방법을 더 깊이 알고 싶다면, Microsoft Fabric에서 데이터 워크플로를 숙달하기 위한 전문가 안내가 담긴 팟캐스트의 전체 에피소드를 꼭 들어보십시오.
자주 묻는 질문
개발자가 아닌 사용자도 Fabric 노트북을 성공적으로 사용할 수 있나요?
가능하지만, 인내심과 기본적인 Python 또는 PySpark 문법을 배우려는 의지가 필요합니다. 본격적인 노트북 개발에 들어가기 전에 더 간단한 작업이나 로우 코드 데이터플로우부터 시작하는 것을 권장합니다.
Dataflows Gen2가 Spark 노트북보다 느린가요?
꼭 그렇지는 않습니다. 일반적인 비즈니스 인텔리전스 변환과 중간 규모의 데이터 양에서는 Dataflows Gen2가 매우 빠르게 실행되며, 성능 튜닝을 대신 처리해 줍니다.
데이터플로우 사용을 중단하고 노트북으로 전환해야 하는 시점은 언제인가요?
변환 로직에 반복문, 머신 러닝 라이브러리, 복잡한 비정형 파일 파싱, 또는 표준 Power Query 기능을 넘어서는 분산 컴퓨팅 성능이 필요할 때 노트북으로 전환을 고려해야 합니다.
같은 Fabric 파이프라인에서 데이터플로우와 노트북을 함께 실행할 수 있나요?
물론입니다. Fabric 파이프라인은 데이터플로우와 노트북을 순차적으로 오케스트레이션할 수 있어, 로우 코드 수집과 고급 프로그래밍 방식 변환을 결합할 수 있습니다.