M365.FM · 한국어
Azure Open Datasets 쉽게 이해하기: 머신러닝·Power BI·Python용 무료 정제 공공 데이터
데이터 과학이나 머신러닝을 배우는 사람들은 흔히 같은 문제에 부딪힙니다. 연습할 만한 데이터가 없고, 찾은 파일은 형식이 낯설고 열 이름은 이해하기 어렵고 값도 빠져 있습니다. 이번 에피소드는 이미 정제된 공공 데이터 세트를 무료로 제공하는 Azure Open Datasets를 소개하고, 몇 주가 아닌 몇 분 만에 시작하는 방법을 설명합니다.
▶ Azure Open Datasets 쉽게 이해하기: 머신러닝·Power BI·Python용 무료 정제 공공 데이터 (AI 더빙)
이번 에피소드에서 배울 내용:
- Azure Open Datasets란: NOAA, 미국 인구조사국, 시 정부의 공공 데이터 세트를 Microsoft가 정제해 열 기반 Parquet 형식으로 Azure Storage에 호스팅한 라이브러리
- 원시 데이터의 네 가지 문제(검색, 준비, 규모, 재현성)와 날씨·공휴일 같은 외부 신호가 머신러닝 모델을 개선하는 이유
- 카탈로그: NOAA 날씨 데이터, 38개국 공휴일, 미국 인구조사 및 노동 통계, 뉴욕 택시 운행, 샌프란시스코 공공 안전, COVID-19 Data Lake, 그리고 Diabetes·MIND·오렌지 주스 판매 같은 벤치마크 데이터 세트
- 접근 방법: Azure 계정 없이 Pandas DataFrame을 반환하는 Python 패키지, Azure Machine Learning, Power BI의 Azure Blob Storage 커넥터, OPENROWSET을 사용하는 Azure Synapse 서버리스 SQL, Azure Databricks의 Spark
- 실제 비용: 데이터와 저장은 무료이며 컴퓨팅, 데이터 송신(GB당 약 8~9센트), 자체 스토리지 비용만 냅니다. 가장 중요한 팁은 같은 리전을 사용하는 것
이 에피소드는 Microsoft MVP 미르코 피터스의 M365 Show 애니메이션 영상을 AI로 더빙한 한국어 버전입니다.