cert-bank

가이드

Read this guide in English

DBX-MLA 학습 가이드: 한 시험 속 두 시험, Unity Catalog 속 모델의 일생과 머신러닝 계산

Databricks Certified Machine Learning Associate 시험에는 공부 방법이 서로 다른 두 종류의 문제가 섞여 있습니다. 한 종류는 플랫폼에서 무엇이 어디에 있는지 묻습니다. 어떤 클라이언트가 모델을 기록하는지, 어떤 이름으로 등록되는지, 배치 작업이 어떤 별칭(alias)을 로드하는지, 어떤 저장소가 피처를 제공하는지입니다. 다른 종류는 순수한 머신러닝이고, 그중 상당수가 직접 계산한 숫자를 요구합니다. 교차 검증이 모델을 몇 개 학습시키는지, 재현율이 얼마인지, 이상값 경계가 어디인지 같은 것입니다. 이 가이드는 시험을 이 기준으로 나누고, 각 절반에 맞는 공부 방법을 알려 드립니다.

학습 가이드 · Databricks Certified Machine Learning Associate (DBX-MLA)

DBX-MLA 학습 가이드: 한 시험 속 두 시험, Unity Catalog 속 모델의 일생과 머신러닝 계산

시험 개요

90분 동안 채점 대상 48문항을 풉니다. 문항은 객관식과 복수 선택형이며, 채점되지 않는 문항이 최대 10개 더 나올 수 있습니다. 합격 점수는 공개되지 않으니 공식 시험 페이지를 확인하세요. 영역은 네 개입니다. Databricks Machine Learning 38%, Model Development 31%, Data Processing 19%, Model Deployment 12%입니다. 실제로는 약 18, 15, 9, 6문항입니다.

배점은 두 절반으로 읽으세요. Databricks Machine Learning과 Model Deployment(50%)는 플랫폼에 관한 것입니다. MLflow, Unity Catalog, Feature Store, AutoML, Model Serving이 여기에 속합니다. Data Processing과 Model Development(50%)는 대부분 Spark ML과 Python으로 표현한 일반적인 ML 실무입니다. 이 문제은행의 DBX-MLA 문제 240개 중 162개(약 3분의 2)는 함수, 클래스, 매개 변수, 열 이름을 코드 형식으로 보여 주고, 37개는 "Select TWO" 복수 선택형이며, 가장 자주 나오는 플랫폼 이름은 MLflow(39문항), Unity Catalog(38문항), Feature Store(34문항)입니다.

첫 번째 절반: 플랫폼에서 모델 하나를 따라가기

플랫폼 문제는 모델 하나의 일생을 순서대로 말할 수 있으면 쉬워집니다. 메모 없이 말할 수 있을 때까지 이 순서를 익히세요.

단계일어나는 일문제은행이 계속 묻는 함정
컴퓨팅Databricks Runtime ML: 흔히 쓰는 ML과 딥러닝 라이브러리가 미리 설치되어 함께 테스트되어 있습니다.미리 설치된 라이브러리를 업그레이드하거나 제거하면 AutoML 실행이 깨집니다.
피처기본 키가 있는 Unity Catalog Delta 테이블이 피처 테이블입니다. FeatureLookup과 create_training_set으로 학습 데이터를 만듭니다. 새 프로젝트에는 이제 Feature Store 문서가 피처를 선언적으로 정의하는 Feature Views를 권장합니다.load_df 다음에 DataFrame을 스케일링하는 것: 이 단계는 추론 때 반복되지 않습니다.
추적MLflow 실행(run)이 실험(experiment) 안에 매개 변수, 메트릭, 아티팩트를 기록합니다. search_runs로 가장 좋은 실행을 코드로 찾습니다.매개 변수는 입력, 메트릭은 결과입니다. 선택지에서 이 둘을 뒤섞습니다.
레지스트리Unity Catalog에 catalog.schema.model 이름으로 등록합니다. USE CATALOG, USE SCHEMA, CREATE MODEL이 필요합니다.모델을 "Staging"이나 "Production"으로 옮기는 답은 레거시 Workspace Model Registry를 설명하는 것입니다.
승격Champion, Challenger 같은 별칭이 버전을 가리키고, 워크로드는 models:/prod.ml.churn@Champion을 로드합니다.별칭만 옮기면 되는데 새 버전을 배포하려고 코드를 바꾸는 것.
서빙배치는 mlflow.pyfunc.spark_udf나 score_batch로, 실시간은 Model Serving 엔드포인트에서 합니다.아무도 결과를 기다리지 않는 야간 작업에 엔드포인트를 쓰는 것.

이 표 뒤에는 시험이 전제로 삼는 권장 사항이 하나 있습니다. 모델이 아니라 코드를 배포하라(deploy code, not models)입니다. 학습 코드가 개발에서 스테이징, 프로덕션으로 이동하고, 모델은 환경마다 다시 학습됩니다. 그리고 배포 원칙이 하나 있습니다. 누가 답을 기다리는지로 모드를 고르세요. 예측을 저장해 두고 나중에 읽으면 배치, 호출자가 요청에 대한 응답을 기다리면 실시간, 이벤트가 도착하는 대로 점수를 매기면 스트리밍입니다.

더 깊이: 별칭이 스테이지를 대체한 이유

레거시 레지스트리에서는 버전이 한 워크스페이스 안에서 고정된 스테이지를 거쳐 이동했습니다. 그래서 "프로덕션"은 한 곳에 붙은 레이블이었습니다. Unity Catalog에서 모델은 카탈로그 안의 관리 대상 객체이고, 같은 메타스토어에 연결된 모든 워크스페이스에서 보이며, 테이블처럼 권한, 계보(lineage), 감사를 갖습니다. 환경은 카탈로그가 됩니다. 코드 배포 방식에서는 프로덕션 작업이 프로덕션 카탈로그에서 직접 모델을 학습하고 등록하며, 재학습 비용이 너무 크면 copy_model_version으로 버전을 그 카탈로그에 복사합니다. 어느 쪽이든 그다음 별칭이 서빙할 버전을 표시합니다. 별칭은 한 번에 정확히 한 버전을 가리키는, 바꿀 수 있는 이름입니다. @Champion을 로드하는 배치 작업은 실행 시점에 별칭을 해석하므로, 별칭을 옮기면 작업을 건드리지 않고도 다음 실행 때 새 버전이 배포됩니다. "어느 버전인가"와 "어느 코드인가"를 이렇게 분리하기 때문에 별칭을 쓰는 답은 맞고, 스테이지를 쓰는 답은 낡은 답입니다.

온라인 피처와 오프라인 피처. 오프라인 저장소는 피처 테이블 자체이며, 학습과 배치 점수 산출에 쓰입니다. Online Feature Store(문서는 Databricks Lakebase 기반이라고 설명합니다)는 실시간 모델을 위해 키 조회를 낮은 지연 시간으로 제공합니다. 되풀이되는 함정은 양방향입니다. 낮은 지연 시간이 필요 없는데 온라인 저장소에 비용을 쓰거나, Delta 테이블이 요청 하나에 밀리초 단위로 답하기를 기대하는 것입니다.

Databricks에서 모델 하나의 일생, 순서대로
1
컴퓨팅
ML 라이브러리가 미리 설치되어 함께 테스트된 Databricks Runtime ML
2
피처
기본 키가 있는 피처 테이블. FeatureLookup과 create_training_set
3
추적
MLflow 실행이 매개 변수, 메트릭, 아티팩트를 기록. search_runs로 가장 좋은 실행을 찾음
4
레지스트리
Unity Catalog 이름 catalog.schema.model. CREATE MODEL과 사용 권한 필요
5
승격
Champion 같은 별칭이 버전을 가리킴. 코드가 아니라 별칭을 옮김
6
서빙
배치는 spark_udf나 score_batch, 실시간은 Model Serving 엔드포인트
왼쪽에서 오른쪽, 위에서 아래로 읽으세요. 시험의 플랫폼 절반은 이 여섯 단계 중 하나를 묻습니다.

두 번째 절반: 직접 계산하기

ML 절반은 종이에 직접 숫자를 계산하는 사람에게 점수를 줍니다. 아래 각 줄은 문제은행의 문제가 요구하는 계산입니다. 알아보는 데서 그치지 말고 직접 다시 해낼 수 있어야 합니다.

  • 그리드 검색의 모델 수 세기. regParam 값 3개 곱하기 maxIter 값 4개는 매개 변수 맵 12개입니다. CrossValidator(numFolds=5)를 쓰면 12 × 5 = 60번 학습하고, 전체 데이터로 마지막에 한 번 다시 학습해서 61번입니다. 문제가 마지막 재학습을 세는지 읽어 보세요.
  • 정밀도와 재현율. 1,000개 행 중 양성이 100개이고, 모델이 50개를 양성으로 표시했는데 그중 40개가 맞습니다. 정밀도 40/50 = 0.80, 재현율 40/100 = 0.40, 정확도 0.93입니다. 정확도는 높지만 형편없는 모델입니다.
  • IQR 경계. Q1 = 20, Q3 = 50이면 IQR = 30이고 경계는 −25와 95입니다. 100은 이상값이고, 95는 남깁니다.
  • MAE 대 RMSE. 오차가 2, 2, 2, 10이면 MAE는 4, RMSE는 약 5.29입니다. RMSE는 결코 MAE보다 작지 않고, 큰 오차가 몇 개만 있어도 커집니다.
  • 로그 변환한 타깃. ln(revenue)로 학습한 모델은 로그값을 예측합니다. 매출을 보고하거나 통화 단위로 오차를 계산하기 전에 exp(또는 log1p를 썼다면 expm1)를 적용하세요.

초보자 팁: Model Development와 Data Processing 연습 세트를 풀 때마다 옆에 종이를 한 장 두고, 선택지를 보기 전에 혼동 행렬, 그리드 크기, 경계를 직접 적으세요. 이런 문제의 오답 선택지는 대개 흔한 실수 하나로 나오는 숫자입니다(재학습을 빠뜨리기, 정밀도와 재현율을 뒤바꾸기, Q3 + 1.5 × IQR 대신 1.5 × Q3를 쓰기). 먼저 계산하면 그런 선택지가 더는 맞아 보이지 않습니다.

숫자 뒤의 개념

계산 말고도 ML 절반은 몇 군데에서 되풀이해 판단력을 시험합니다.

  • Estimator와 Transformer. Transformer는 transform()만 있습니다(VectorAssembler). Estimator는 fit()이 있고 모델을 반환합니다(StringIndexer, Imputer, LogisticRegression). Pipeline은 Estimator이고, 학습된 결과는 PipelineModel입니다.
  • 데이터 누수(leakage). 교차 검증 전에 모든 행으로 스케일러나 대체기(imputer)를 학습시키면 검증 데이터가 학습에 새어 들어갑니다. Pipeline 전체를 튜너 안에 넣으세요.
  • 불균형. 양성이 드물면 정밀도, 재현율, F1, 정밀도-재현율 AUC를 쓰고, 클래스 가중치(weightCol)나 리샘플링을 고려하세요.
  • 결측값 대체와 인코딩. 치우친 숫자에는 중앙값, 범주에는 최빈값을 씁니다(Spark의 Imputer는 숫자 열만 처리합니다). 선형 모델의 명목형 피처에는 원-핫 인코딩을 쓰고, 순서형 피처에는 쓰지 않습니다.
  • 튜닝. Databricks 튜닝 문서는 오픈 소스 Hyperopt가 더 이상 유지 관리되지 않고 16.4 LTS ML 이후의 Databricks Runtime ML에 포함되지 않는다고 밝히며, Optuna나 Ray Tune을 권장합니다. 병렬 시도는 scikit-learn 같은 단일 머신 모델을 위한 것입니다. 분산 Spark ML 학습은 이미 클러스터 전체를 쓰고, Spark의 CrossValidator는 parallelism을 설정하지 않으면 매개 변수 맵을 차례로 평가합니다.
더 깊이: F1이 정밀도와 재현율 중 약한 쪽을 벌하는 이유

F1은 보통의 평균이 아니라 조화 평균 2PR / (P + R)입니다. 조화 평균은 두 숫자 중 작은 쪽으로 끌려갑니다. 정밀도 0.80, 재현율 0.40이면 보통 평균은 0.60이지만 F1은 0.53입니다. 정밀도 0.90, 재현율 0.30이면 평균은 여전히 0.60인데 F1은 0.45로 떨어집니다. 그래서 모델은 높은 정밀도 뒤에 낮은 재현율을 숨길 수 없고, 그 반대도 마찬가지입니다. 두 종류의 오류가 모두 중요한 불균형 데이터에서 모델을 비교할 단일 지표를 물을 때 시험이 기대는 성질이 바로 이것입니다.

학습 순서

  1. MLflow 추적과 Unity Catalog 등록, 별칭, 코드 배포 패턴(가장 비중이 큰 영역).
  2. 피처 테이블: 생성, 쓰기, 학습 세트, 온라인 대 오프라인.
  3. Spark ML 파이프라인, 검증, 튜닝, 메트릭을 종이 계산과 함께.
  4. 데이터 처리: 요약 통계, 이상값, 결측값 대체, 인코딩, 로그 변환.
  5. 배포 모드, 엔드포인트, 트래픽 분할, 그다음 여러 영역이 섞인 세트.

AutoML은 아직 시험 개요에 있지만, AutoML 문서는 Databricks Runtime 18.0 ML 이상에는 AutoML이 기본 제공 라이브러리로 포함되지 않는다고 설명합니다. 최신 런타임에서 실행하는 방법보다 AutoML이 무엇을 만들어 내는지(튜닝된 시도 실행, 가장 좋은 모델, 생성된 데이터 탐색 노트북과 시도 노트북)를 익히세요.

연습하기

문제은행에서 연습하십시오. 모든 문제에 정답과 오답 보기마다 해설이 있습니다. 방금 공부한 도메인부터 시작하고, 그다음 시간 제한이 있는 모의고사를 보십시오.

영역별 배점은 Machine Learning Associate의 Databricks 시험 가이드 기준입니다. 런타임 구성, AutoML 제공 여부, Feature Store 이름은 바뀝니다. 최신 시험 가이드와 문서를 확인하세요.