프롬프트, RAG, 파인 튜닝, 지속 사전 학습: AWS, Azure, Google Cloud, Databricks 시험에 모두 통하는 하나의 규칙
모든 생성형 AI 시험은 결국 같은 질문을 형태만 바꿔 던집니다. 모델이 비즈니스가 원하는 대로 동작하지 않는다면 무엇을 바꿔야 하는가? 선택지는 늘 같은 네 가지입니다. 더 나은 프롬프트를 쓴다. 질문 시점에 모델에게 문서를 준다(검색 증강 생성, retrieval-augmented generation, RAG). 레이블이 붙은 예시로 추가 학습한다(파인 튜닝, fine-tuning). 또는 해당 분야의 레이블 없는 텍스트를 대량으로 추가 학습한다(지속 사전 학습, continued pre-training). 다섯 시험(AWS AIF-C01과 AIP-C01, Microsoft AI-103, Databricks DBX-GAI, Google GCP-GAIL)에 걸쳐, 연습 문제 중 131개가 문제나 선택지에서 RAG를, 101개가 파인 튜닝을 언급합니다. 벤더마다 제품 이름은 다르지만, 판단 규칙은 어디서나 같습니다.
개념 비교 · AIF-C01, AIP-C01, AI-103, DBX-GAI, GCP-GAIL 및 기타 생성형 AI 시험

한 문장으로 요약한 규칙
모델에 지식이 부족하다면, 특히 바뀌거나 인용해야 하는 지식이라면 검색해서 주십시오. 모델에 동작(어조, 형식, 작업 패턴)이 부족하고 레이블이 붙은 예시가 있다면 파인 튜닝하십시오. 한 분야 전체의 언어가 부족하고 레이블 없는 도메인 텍스트가 충분하다면 지속 사전 학습을 하십시오. 그 밖의 경우에는 프롬프트로 충분합니다. 어떤 시험에서든 가장 저렴한 단계부터 시도하고, 지문이 이유를 줄 때만 위 단계로 올라가십시오.
| 기법 | 바꾸는 것 | 필요한 것 | 지문 속 단서 |
|---|---|---|---|
| 프롬프트 엔지니어링 | 이번 요청만: 지시, 몇 가지 예시, 형식 | 문구 외에는 없음 | "빠르게", "학습 데이터 없음", "가중치를 바꿀 수 없음" |
| RAG / 그라운딩(grounding) | 질문 시점에 모델이 읽는 컨텍스트 | 문서, 인덱스, 검색기(retriever) | "매일 바뀜", "내부 문서", "출처 인용", "콘텐츠를 빠르게 삭제" |
| 파인 튜닝 | 가중치를 특정 동작 쪽으로 | 레이블이 붙은 프롬프트-응답 쌍 | "브랜드 어조", "항상 이 형식", "레이블이 붙은 예시" |
| 지속 사전 학습 | 가중치를 도메인 언어 쪽으로 | 대량의 레이블 없는 도메인 텍스트 | "레이블 없는 보고서 수백만 건", "도메인 어휘" |
비용과 수고는 위에서 아래로 갈수록 커집니다. 모델을 처음부터 학습하는 것은 네 가지 모두보다 위에 있습니다. 막대한 데이터와 컴퓨팅이 필요하며, 정답인 경우는 거의 없습니다.
초보자 팁: 선택지를 읽기 전에 지문이 부족하다고 말하는 명사에 밑줄을 긋고, 옆에 K(지식, knowledge) 또는 B(동작, behaviour)를 적으십시오. "답변에 이번 주 가격표가 반영되지 않는다"는 K입니다. "답변은 항상 3단 구성의 지원 양식을 따라야 한다"는 B입니다. 그다음 지문에 레이블이 붙은 쌍이나 레이블 없는 텍스트가 나오는지 확인합니다. 문제지에 표시 두 개만 하면 대개 선택지 넷 중 둘이 지워집니다.
RAG: 질문 시점에 검색해서 제공
파인 튜닝
지속 사전 학습
가장 저렴한 단계인 프롬프트 엔지니어링에 머무르기
벤더별 표현으로 본 같은 규칙
AWS (AIF-C01, AIP-C01)
이 문제은행에서 이 구분을 다루는 문제는 AWS 시험에 가장 많습니다. AIF-C01은 맞춤화 방식(인컨텍스트 학습, RAG, 파인 튜닝, 사전 학습, 증류)의 비용 트레이드오프를 묻습니다. 이는 비용 사다리로 볼 수 있으며, 효과가 있는 가장 저렴한 단계부터 시작합니다. AIP-C01은 운영 세부 사항을 더합니다. 사용자 지정한 Bedrock 모델은 비공개 사용자 지정 모델이 됩니다. 대개 공유 온디맨드 풀이 아니라 전용 용량(Provisioned Throughput)이 필요하며, 일부 기반 모델에서는 사용자 지정 모델 배포(custom model deployment)로 온디맨드 추론도 할 수 있습니다. 두 시험은 또 비슷해 보이는 두 가지를 구분합니다. 증류(distillation)는 비용과 지연 시간을 줄이려고 작은 모델이 큰 모델을 흉내 내도록 학습합니다. 프롬프트 캐싱은 반복되는 동일한 프롬프트 앞부분을 처리합니다. 둘 다 지식을 더하지 않습니다.
Google Cloud (GCP-GAIL)
GCP-GAIL도 같은 계단을 따릅니다. 프롬프트로 시작하고, 답변이 회사의 사실을 반영해야 하면 신뢰할 수 있는 데이터로 모델을 그라운딩하고, 프롬프트로 반복 오류를 고칠 수 없을 때만 튜닝합니다. GCP-GAIL은 그라운딩 안에서 한 번 더 나눕니다. 공개되어 있고 빠르게 바뀌는 세상의 사실은 Grounding with Google Search를 가리킵니다. 자체 문서는 자체 데이터 기반 RAG(Agent Search의 사전 구축 RAG 또는 RAG API)를 가리킵니다. Generative AI Leader 시험이므로 데이터 약관도 묻습니다. Google Cloud는 고객의 허락이나 지시 없이 고객 데이터를 모델 학습이나 파인 튜닝에 사용하지 않는다고 밝히고 있습니다.
Microsoft Azure (AI-103)
AI-103의 측정 기술 목록은 RAG, 그라운딩, 지식 통합을 다루며 파인 튜닝은 아예 나열하지 않습니다. Microsoft Foundry 문서는 파인 튜닝이 "최신 정보를 위한 검색을 대체하지 않는다(doesn't replace retrieval for current information)"고 말합니다. 이 문제은행의 AI-103 문제도 이를 바탕으로 합니다. 튜닝된 모델은 출처를 인용할 수 없고, 내용이 바뀔 때마다 다시 학습해야 합니다. 지식은 대신 도구에서 옵니다. file search 도구는 여러분이나 사용자가 업로드한 문서를 검색합니다. Azure AI Search 도구는 기존 인덱스에 연결합니다. Foundry IQ 지식 베이스는 여러 에이전트가 함께 쓸 수 있습니다(일부 기능은 아직 미리 보기(preview)입니다). Grounding with Bing Search를 사용하는 web search 도구는 최신 공개 정보를 다룹니다. 이 문제은행에서 파인 튜닝은 프롬프트와 구조화된 출력을 시도한 뒤, 일관된 스타일과 형식을 위한 나중 단계로만 등장합니다.
Databricks (DBX-GAI)
DBX-GAI는 바뀌는 비공개 지식에는 검색을 전제합니다. 문단은 질문 시점에 읽히지만, 튜닝된 가중치는 한 시점의 스냅샷으로 남기 때문입니다. 문제 대부분은 RAG를 잘하는 방법에 관한 것입니다. 파싱, 청킹, AI Search 인덱스, 평가자(judge)입니다. 파인 튜닝은 운영 쪽에서 등장합니다. 지원되는 아키텍처의 파인 튜닝된 모델은 Unity Catalog에 등록되고 provisioned throughput으로 서빙됩니다. 어떤 튜닝이든 하기 전에 기반 모델과 학습 데이터의 라이선스가 그 용도를 허용해야 합니다. 비상업용 라이선스라면 유료 제품에는 쓸 수 없습니다.
더 깊이: 가중치가 사실을 보관하기에 나쁜 곳인 이유
파인 튜닝은 많은 가중치를 조금씩 조정해 특정 출력이 나올 가능성을 높입니다. 이렇게 학습한 사실은 찾고, 고치고, 지울 수 있는 레코드로 저장되지 않습니다. 네트워크 전체에 퍼져 모델이 학습한 다른 모든 것과 섞입니다. 여기서 시험이 활용하는 세 가지 결과가 나옵니다. 모델은 답이 어디서 왔는지 가리킬 수 없으므로 인용할 수 없습니다. 사실 하나를 바꾸려면 다시 학습해야 하고, 예전 버전이 여전히 튀어나올 수 있습니다. 콘텐츠를 제거하는 일(만료된 라이선스, 삭제 요청)에 깔끔한 방법이 없습니다. 검색은 사실을 행과 문서로 보관합니다. 원본을 고치고 인덱스를 다시 동기화하면 다음 답변은 새 텍스트를 읽습니다. 그래서 원칙적으로 파인 튜닝으로도 같은 사실을 가르칠 수 있더라도, "인용해야 함"과 "제거할 수 있어야 함"은 RAG를 가리킵니다.
여러 시험에 나오는 함정
- 새 사실을 가르치려고 파인 튜닝하기. 모든 벤더 시험에서 흔히 나오는 오답입니다. 튜닝된 모델은 데이터가 바뀌는 순간 낡은 것이 됩니다.
- 나쁜 검색을 생성 설정이나 파인 튜닝으로 고치기. 검색기가 엉뚱한 문단을 돌려준다면 청킹, 임베딩, 필터를 고치십시오. 유창한 모델이라도 빠진 컨텍스트를 복구할 수는 없습니다.
- 너무 적은 파인 튜닝 데이터. 데이터가 적으면 암기와 과적합으로 이어집니다. 양보다 질(깨끗하고, 관련 있고, 일관되고, 중복을 제거한 예시)이 중요합니다.
- 학습 세트 속 개인 정보. 모델은 학습한 내용을 암기했다가 그대로 내놓을 수 있습니다. 학습 전에 개인 정보를 제거하거나 마스킹하십시오. 런타임 guardrails는 두 번째 방어선일 뿐입니다.
- 학습 기반 기법 혼동하기. 레이블이 붙은 쌍은 파인 튜닝입니다. 레이블 없는 도메인 텍스트는 지속 사전 학습입니다. 사람의 선호 순위와 보상 모델은 RLHF입니다. 작은 학생 모델이 큰 교사 모델을 따라 하는 것은 증류입니다.
- 둘 중 하나만 골라야 한다고 생각하기. 일관된 어조를 위해 파인 튜닝한 모델에 최신 사실을 위한 RAG를 더하는 것은, 지문이 둘 다 요구할 때 정당한 조합 답안입니다.
더 깊이: 지속 사전 학습과 파인 튜닝을 가르는 것
둘 다 가중치를 갱신합니다. 차이는 학습 신호입니다. 지속 사전 학습은 원래 사전 학습과 같은 목표, 즉 일반 텍스트의 다음 토큰 예측을 씁니다. 레이블이 필요 없으므로 한 분야의 문서 더미를 그대로 쓸 수 있고, 모델의 어휘와 배경 지식을 그 분야 쪽으로 옮깁니다. 파인 튜닝은 입력과 원하는 출력의 쌍을 씁니다. 모델이 특정 방식으로 응답하도록 가르치며, 쌍 하나하나를 누군가 준비해야 합니다. 그래서 지문 속 데이터가 답을 정합니다. "레이블 없는 대량의 임상 기록"은 지속 사전 학습을, "검토를 거친 질문-답변 쌍 2,000개"는 파인 튜닝을 뜻합니다.
연습하기
문제은행에서 연습하십시오. 모든 문제에 정답과 오답 보기마다 해설이 있습니다. 방금 공부한 도메인부터 시작하고, 그다음 시간 제한이 있는 모의고사를 보십시오.
- AIF-C01 시험 안내 · AIF-C01 문제 전체 416개 · 시간 제한 모의고사 · 14일 학습 계획
- 도메인별 (AIF-C01): Fundamentals of AI and ML · Fundamentals of Generative AI · Applications of Foundation Models · Guidelines for Responsible AI · Security, Compliance, and Governance
- AIP-C01 시험 안내 · AIP-C01 문제 전체 465개 · 시간 제한 모의고사 · 35일 학습 계획
- 도메인별 (AIP-C01): Foundation Model Integration, Data Management, and Compliance · Implementation and Integration · AI Safety, Security, and Governance · Operational Efficiency and Optimization for GenAI Applications · Testing, Validation, and Troubleshooting
- AI-103 시험 안내 · AI-103 문제 전체 303개 · 시간 제한 모의고사 · 20일 학습 계획
- 도메인별 (AI-103): Plan and manage an Azure AI solution · Implement generative AI and agentic solutions · Implement computer vision solutions · Implement text analysis solutions · Implement information extraction solutions
- DBX-GAI 시험 안내 · DBX-GAI 문제 전체 285개 · 시간 제한 모의고사 · 19일 학습 계획
- 도메인별 (DBX-GAI): Design Applications · Data Preparation · Application Development · Assembling and Deploying Applications · Governance · Evaluation and Monitoring
- GCP-GAIL 시험 안내 · GCP-GAIL 문제 전체 334개 · 시간 제한 모의고사 · 15일 학습 계획
- 도메인별 (GCP-GAIL): Fundamentals of gen AI · Google Cloud's gen AI offerings · Techniques to improve gen AI model output · Business strategies for a successful gen AI solution
문항 수는 이 문제은행 기준입니다. 제품 이름과 맞춤화 방식은 벤더마다 다르고 자주 바뀝니다. 각 시험의 공식 가이드와 벤더의 최신 문서를 확인하십시오.