AI-103 학습 가이드: 요청 하나를 따라 Foundry 앱을 한 단계씩 통과하기
AI-103은 Microsoft Foundry에서 생성형 AI 앱과 에이전트를 만드는 개발자 시험이며, 짧은 코드와 요청 설정이 가득합니다. 전체를 하나로 꿰는 가장 쉬운 방법은 사용자 요청 하나를 따라 앱을 통과해 보는 것입니다. 요청은 인증을 거쳐 배포(deployment)로 보내지고, 여러분의 데이터로 그라운딩되고, 경우에 따라 에이전트와 그 도구로 넘어가고, 가드레일의 검사를 받은 뒤, 마지막으로 기록됩니다. 단계(hop)마다 내려야 할 결정과 전형적인 실패가 따로 있습니다. 이 가이드는 그 단계들을 순서대로 짚어 갑니다.
학습 가이드 · Microsoft Azure AI Apps and Agents Developer Associate (AI-103)

시험 개요
시험 시간은 120분이며, 합격 점수는 1~1,000점 척도에서 700점입니다. Microsoft는 고정된 문제 수를 공개하지 않으므로, 시간이 절반 지났을 때 문제도 절반쯤 풀었는지 확인하십시오. 기술 영역은 Plan and manage an Azure AI solution(25–30%), Implement generative AI and agentic solutions(30–35%), 그리고 컴퓨터 비전, 텍스트 분석, 정보 추출(각 10–15%)입니다. 시험의 절반 이상이 계획과 생성형 AI·에이전트입니다.
이 문제은행을 위해 만든 AI-103 문제 243개 중 거의 3분의 1(32%)이 문제 해결형입니다. 호출이 401, 404, 429를 반환하거나, 에이전트가 도구를 무시하거나, 인용이 빠지는 상황입니다. Microsoft Foundry 자체가 40%의 문제에 등장하고, 그다음은 Azure AI Search와 Foundry Agent Service(각 16%), Azure OpenAI(15%)입니다. Python과 REST 코드 조각이 나온다고 생각하십시오.
단계 1: 누가, 어느 엔드포인트를 호출하는가
엔드포인트는 두 가지이며 서로 바꿔 쓸 수 없습니다. 리소스의 v1 엔드포인트(https://<resource>.openai.azure.com/openai/v1/)는 표준 OpenAI 클라이언트와 함께 씁니다. 프로젝트 엔드포인트(https://<resource>.services.ai.azure.com/api/projects/<project>)는 Foundry SDK가 씁니다. AIProjectClient는 연결 목록 조회 같은 프로젝트 작업을 처리하고, 이 클라이언트의 OpenAI 호환 클라이언트는 응답, 에이전트, 평가를 처리합니다. 프로젝트 클라이언트에 v1 주소를 주면 연결 목록 조회가 404로 실패합니다.
ID는 Microsoft가 키보다 Microsoft Entra ID를 권장합니다. DefaultAzureCredential(로컬에서는 az login, Azure에서는 관리 ID)과 프로젝트의 Foundry User 역할을 씁니다. 키 없는 코드만으로는 키가 꺼지지 않습니다. 로컬 인증을 비활성화해야 꺼집니다.
더 깊이: 한 시간 뒤에야 나타나는 401
get_bearer_token_provider(DefaultAzureCredential(), "https://ai.azure.com/.default")는 토큰이 아니라 함수를 반환합니다. 이 함수를 api_key로 넘기면 클라이언트가 새 토큰이 필요할 때마다 호출합니다. 함수를 한 번 호출해서 나온 문자열을 넘기면 테스트에서는 모두 잘 동작하지만, 그 토큰이 만료되는 순간부터 프로세스를 다시 시작할 때까지 모든 호출이 401로 실패합니다. "오늘 아침에는 됐는데 점심 이후 401, 코드 변경 없음"이라고 설명하는 문제는 바로 이것을 가리킵니다.
단계 2: 어느 배포인가, 여유가 있는가
model 매개변수에는 배포 이름을 넣습니다. 배포 유형은 프롬프트가 처리되는 위치(Global, Data Zone, 또는 리소스 자체의 지역)와 비용 지불 방식(토큰당, 프로비저닝된 처리량 단위(PTU), 또는 24시간 목표의 Batch)을 정합니다. 할당량은 모델, 리전, 배포 유형별 분당 토큰 수이며, 배포마다 그중 일부를 가져갑니다.
전형적인 429 함정은 이렇습니다. 속도 제한기는 청구되는 토큰이 아니라 요청 도착 시 추정한 값, 즉 프롬프트 토큰에 max_tokens를 더한 값을 셉니다. max_tokens가 지나치게 크면 사용량 그래프는 낮아 보이는데도 429가 납니다. 리전 할당량이 남아 있는데 429가 난다면 배포 자체에 할당된 양이 부족한 경우가 많습니다.
단계 3: 호출 자체
- Responses 또는 Chat Completions. Responses는 상태를 유지하는 최신 API로,
previous_response_id로 대화를 이어 갑니다. Chat Completions는 상태를 유지하지 않으므로 앱이 메시지 목록을 다시 보냅니다. 구조화된 출력은 Chat Completions에서는response_format에, Responses에서는text.format에 넣습니다. - 추론 모델. 대부분의 추론 모델은
temperature와top_p를 지원하지 않으므로 빼십시오.max_completion_tokens나max_output_tokens를 쓰고reasoning_effort를 조정합니다. 이 예산에는 보이지 않는 추론 토큰도 포함되므로, 예산이 작으면 불완전한 답이 반환됩니다. - 프롬프트 속 이미지. 이미지 URL은 서비스가 접근할 수 있어야 합니다. 비공개 파일이라면 대신 base64 데이터를 보내십시오.
단계 4: 여러분의 데이터로 그라운딩
전형적인 RAG는 다음과 같습니다. 인덱스에 쓴 것과 같은 임베딩 모델로 질문을 임베딩하고, 시맨틱 순위(semantic ranking)를 적용한 하이브리드 쿼리를 실행하고, 상위 청크를 남겨 각각 id를 붙이고, 모델에게 그 청크만으로 답하고 id를 인용하라고 지시합니다. 세 가지 규칙이 많은 문제를 좌우합니다.
- 보안 트리밍(security trimming)은 지시문이 아니라 쿼리(사용자 그룹에 대한 OData 필터)에 넣어야 합니다. 모델은 검색된 것이라면 무엇이든 봅니다.
- 하이브리드 점수는 Reciprocal Rank Fusion 점수라서 아주 작게 유지됩니다(텍스트 쿼리 하나와 벡터 쿼리 하나를 합치면 최고라도 약 0.03). 그래서 0.8처럼 코사인 유사도에 맞춘 기준값을 쓰면 결과가 모두 사라집니다. 시맨틱 리랭커 점수는 0에서 4 사이입니다.
- Azure OpenAI On Your Data(
data_sources블록)는 2026년 10월 14일에 사용 중지되었습니다. 블록을 지우는 것은 마이그레이션이 아닙니다. 여전히 무언가가 문서를 검색해야 합니다.
초보자 팁: 포털의 Search explorer에서 Azure AI Search 인덱스에 하이브리드 쿼리를 한 번 실행하고 @search.score 값을 보십시오. 그다음 시맨틱 구성을 추가하고 @search.rerankerScore를 보십시오. 같은 문서에 대해 0.03이라는 점수와 2.7이라는 점수를 나란히 보고 나면, "왜 기준값 때문에 결과가 전부 사라졌는가?" 같은 문제가 명백해집니다.
단계 5: 에이전트와 도구
Foundry Agent Service의 프롬프트 에이전트는 배포, 지시문, 도구를 합친 것으로, 변경 불가능한 버전으로 저장됩니다. 대화(conversation)는 기록을 보관하고, 응답(response)은 실행 한 번입니다. 어떤 지식 도구가 맞는지 알아 두십시오. 사용자가 한 대화에 가져오는 문서에는 file search, 기존 인덱스에는 Azure AI Search 도구, 여러 에이전트가 공유하는 선별된 지식에는 Foundry IQ 지식 베이스(일부 기능은 아직 Preview)입니다. 함수 호출(function calling)에서 Foundry는 여러분의 코드를 절대 실행하지 않습니다. 모델이 함수 호출을 반환하면, 앱이 그것을 실행하고 출력을 돌려보냅니다. 에이전트가 필요한 도구를 건너뛴다면 지시문을 더 엄격하게 하거나 tool_choice를 required로 설정하십시오.
에이전트가 여럿이라면 Microsoft Agent Framework의 오케스트레이션 패턴을 알아 두십시오. 서로 의존하는 단계에는 순차(sequential), 독립적인 관점을 병렬로 얻을 때는 동시(concurrent), 실행 중에 제어를 넘길 때는 핸드오프(handoff)입니다. Foundry 포털 워크플로는 2026년 12월 1일에 사용 중지되며, 코드로 가는 길은 Agent Framework입니다.
단계 6: 가드레일
가드레일(이전 이름 콘텐츠 필터)은 입력과 출력에 안전을 강제합니다. 시스템 메시지는 방향만 제시할 뿐입니다. 유해 범주(증오, 성적 콘텐츠, 폭력, 자해)는 심각도로 점수가 매겨집니다. Prompt Shields는 텍스트에서 탈옥(jailbreak)과 간접(문서) 공격을 탐지하며, 문서 공격 탐지는 직접 켜기 전까지 꺼져 있습니다. 차단 목록(blocklist)은 용어를 일치시킵니다. 이미지 안에 쓰인 지시문은 Prompt Shields가 검사하기 전에 먼저 텍스트로 추출해야 합니다. 지문이 모델이 무언가를 "절대 하면 안 된다"고 하면, 답은 프롬프트의 한 줄이 아니라 강제하는 통제 장치입니다.
단계 7: 그 뒤에 보이는 것
Azure Monitor는 플랫폼 지표(상태 코드별 요청, 첫 토큰까지 걸린 시간, 차단된 양)를 제공합니다. 에이전트 트레이스를 보려면 프로젝트에 Application Insights 리소스를 연결해야 하며, 없으면 트레이스 화면이 비어 있습니다. 평가 결과는 프로젝트에 저장되며 Application Insights로도 보낼 수 있습니다. 모델 버전을 고정하고, 새 버전으로 옮기기 전에 평가 점수를 비교하십시오. 드리프트는 버전 업그레이드 뒤에 자주 일어나기 때문입니다.
고르는 모든 기능의 상태를 확인하기
| 기능 | 문제은행 출처 기준 상태 |
|---|---|
| gpt-image-2 | 정식 출시(GA) |
| dall-e-3 | 사용 중지됨 |
| Sora 2, 에이전트 Memory | Preview: 프로덕션 요구에 대한 정답이 아님 |
| Azure OpenAI On Your Data | 2026년 10월 14일 사용 중지됨 |
| 기존 threads, messages, runs | 2027년 3월 31일 사용 중지 예정, conversations와 responses로 대체 |
Microsoft는 대부분의 문제가 정식 출시된 기능을 다룬다고 밝힙니다. 두 답이 모두 동작하는데 하나가 Preview나 사용 중지된 기능에 기댄다면, 다른 쪽을 고르십시오.
연습하기
문제은행에서 연습하십시오. 모든 문제에 정답과 오답 보기마다 해설이 있습니다. 방금 공부한 도메인부터 시작하고, 그다음 시간 제한이 있는 모의고사를 보십시오.
- AI-103 시험 안내 · AI-103 문제 전체 303개 · 시간 제한 모의고사 · 20일 학습 계획
- 도메인별: Plan and manage an Azure AI solution · Implement generative AI and agentic solutions · Implement computer vision solutions · Implement text analysis solutions · Implement information extraction solutions
측정 기술은 Microsoft의 AI-103 학습 가이드에 나온 기준입니다. Foundry의 기능, 이름, 사용 중지 날짜는 자주 바뀌므로, 시험 전에 시험 페이지와 Microsoft Learn에서 최신 상태를 확인하십시오.