AI-901 학습 가이드: 입력과 출력으로 워크로드를 알아보고, Foundry에서 구현하세요
AI-901(Microsoft Azure AI Fundamentals)은 두 부분으로 나뉘고, 부분마다 필요한 습관이 다릅니다. 앞부분은 짧은 이야기를 읽고 AI 워크로드나 원칙을 알아보라고 합니다. 여기서 요령은 무엇이 들어가고 무엇이 나오는지 보는 것입니다. 더 큰 뒷부분은 Microsoft Foundry에서 실제로 어떻게 구현할지 묻습니다. 모델 카탈로그부터 몇 줄짜리 클라이언트 코드까지입니다. 이 가이드는 두 습관을 이 순서대로 훈련합니다.
학습 가이드 · Microsoft Azure AI Fundamentals (AI-901)

시험 개요
시험 시간은 45분이고, 합격 점수는 1~1,000점 척도에서 700점입니다. Microsoft는 문항 수를 고정해 공개하지 않으므로(이 사이트의 모의고사는 45문항으로 가정합니다) 시간 기준으로 속도를 조절하세요. 평가 영역은 두 개입니다. Identify AI concepts and capabilities(40–45%)와 Implement AI solutions by using Microsoft Foundry(55–60%)입니다. Fundamentals 수준인데도 학습 가이드는 REST API, SDK, CLI에 익숙하고 기본적인 Python 문법을 알아야 한다고 말합니다.
이 문제은행을 위해 저희가 만든 AI-901 문제 225개 중 Microsoft Foundry 자체가 30%에 등장합니다. 그다음은 Azure Content Understanding in Foundry Tools(15%), Foundry Agent Service, Azure Language(각각 약 12%), Azure OpenAI in Foundry Models, Azure Speech(각각 약 11%)입니다. 다섯 문제에 하나 이상이 문제 해결(troubleshooting) 문제인데, Fundamentals 시험치고는 드문 일입니다. 응답이 중간에 잘리거나, 모델이 이미지를 가져오지 못하거나, 코드가 모델 이름을 찾지 못하는 상황입니다.
앞부분: 입력과 출력으로 워크로드 이름 붙이기
| 입력 → 출력 | 워크로드와 Foundry 도구 |
|---|---|
| 오디오 → 텍스트 | 음성 인식(speech to text), Azure Speech. 텍스트 → 오디오는 음성 합성입니다. |
| 한 언어의 음성 → 다른 언어의 텍스트나 음성 | 음성 번역. 단순 받아쓰기는 언어를 바꾸지 않습니다. |
| 기존 텍스트 → 레이블, 엔터티, PII, 감정 | 텍스트 분석, Azure Language. |
| 이미지 → 레이블 하나 / 상자 / 픽셀 단위 모양 | 이미지 분류 / 객체 감지 / 의미 체계 분할(semantic segmentation). |
| 이미지 + 질문 → 텍스트 답변 | 비전 기능이 있는 멀티모달 채팅 모델. |
| 텍스트 → 새 이미지 | 이미지 생성, GPT-image 모델. |
| 청구서, 양식, 통화 녹음 → 이름 붙은 필드 | 정보 추출, Azure Content Understanding. OCR만으로는 텍스트만 돌려줍니다. |
| 프롬프트 → 새 텍스트 | 생성형 AI. 도구를 써서 정보를 찾거나 행동까지 하면 에이전트형 AI(agentic AI)입니다. |
음성 인식, Azure Speech
음성 번역
텍스트 분석, Azure Language
비전 기능이 있는 멀티모달 채팅 모델
정보 추출, Azure Content Understanding
이미지 생성, GPT-image 모델
프롬프트가 들어가고 새 텍스트가 나옴: 생성형 AI(도구까지 쓰면 에이전트형 AI)
짧은 이야기로 나오는 책임 있는 AI
Microsoft의 여섯 가지 원칙은 시나리오로 나옵니다. 역량이 같은 사람을 집단에 따라 다르게 평가하는 채용 모델은 공정성(fairness)입니다. 특이한 조건에서 실패하는 시스템은 신뢰성 및 안전성(reliability and safety)입니다. 분석가가 보기 전에 개인 데이터를 가리는 것은 개인 정보 보호 및 보안(privacy and security)입니다. 장애가 있는 사람도 쓸 수 있는 제품은 포용성(inclusiveness)입니다. 사용자에게 AI와 대화하고 있다고 알리거나, 어떤 요인이 결정에 영향을 주었는지 설명하는 것은 투명성(transparency)입니다. 책임을 지는 사람이 정해져 있는 것은 책임성(accountability)입니다.
모델이 작동하는 방식
텍스트는 토큰으로 나뉘고, 모델은 다음 토큰을 계속 예측하면서 글을 씁니다. 임베딩(embedding)은 비슷한 의미를 가까이 배치하는 벡터입니다. 의미 체계 검색이 "로그인이 안 돼요"라는 질문에 "잊어버린 암호 복구"를 찾아내는 원리입니다. 컨텍스트 창(context window)에는 시스템 메시지, 근거 데이터, 대화 이력, 응답이 모두 들어가야 합니다. 학습(training)은 모델의 가중치를 바꿉니다. 채팅 요청은 모두 가중치가 고정된 추론(inference)이므로, 배포된 모델은 대화에서 학습하지 않습니다. RAG는 비공개 지식이나 자주 바뀌는 지식을 출처와 함께 더하고, 미세 조정(fine-tuning)은 동작, 어조, 형식을 바꿉니다.
뒷부분: Foundry에서 네 단계로 구현하기
- 고르고 배포합니다. 모델 카탈로그에서 모델을 고르고(모델 카드에 지원 데이터 형식 같은 세부 정보와, 일부 모델은 벤치마크가 나옵니다) 배포합니다. 배포 유형이 프롬프트를 어디서 처리할지 정합니다. Learn이 기본 출발점으로 제시하는 것은 Global Standard이고, Data Zone Standard는 EU 같은 데이터 영역 안에서만 처리합니다.
- 플레이그라운드에서 테스트합니다. 시스템 메시지(역할, 범위, 형식, 확실하지 않을 때 할 일)를 쓰고, 퓨샷(few-shot) 예시를 넣고, temperature나 top_p 중 하나만 바꾸고(둘 다 바꾸지는 않습니다), 배포 최대 세 개를 나란히 비교합니다. 가드레일(guardrails, 이전 이름 콘텐츠 필터)은 배포에 할당됩니다.
- 코드에서 호출합니다. 클라이언트에는 세 가지 값이 필요합니다. 엔드포인트, 자격 증명(
DefaultAzureCredential을 통한 Microsoft Entra ID, 또는 코드 밖에 보관한 키), 배포 이름입니다. Responses API는 더 새로운, 상태를 유지하는 방식입니다. Chat Completions는 코드가 매번 전체 대화 이력을 다시 보내야 합니다. - 행동해야 한다면 에이전트로 만듭니다. Foundry Agent Service에서 에이전트는 모델, 지침, 도구(파일 검색, 코드 인터프리터, 웹 검색, 함수 호출, OpenAPI)를 묶어 저장하고 버전을 관리하는 단위입니다. 대화(conversation)가 이력을 담고, 응답 하나가 실행(run) 한 번입니다.
초보자 팁: 첫 모델을 배포할 때 사용자 지정 설정을 고르고, 배포 이름을 모델 이름과 다르게 지으세요. 예를 들면 chat-test입니다. 그런 다음 플레이그라운드의 Code 탭을 열어 model 매개 변수에 무엇이 들어 있는지 보세요. 카탈로그 이름이 아니라 내 배포 이름입니다. "model not found" 오류 문제가 바로 이것을 묻습니다. 5분만 직접 해 보면 확실히 기억에 남습니다.
더 깊이: 내 네트워크 안에서도 비공개 이미지 URL이 실패하는 이유
프롬프트에 이미지 URL을 넣으면 앱이 이미지를 보내는 것이 아닙니다. 서비스가 Microsoft의 관리형 인프라에서 이미지를 가져옵니다. 그래서 프라이빗 엔드포인트나 스토리지 방화벽 뒤에 있거나 VNet 안에서만 열리는 주소의 Blob에는 닿을 수 없습니다. 앱이 같은 네트워크에 있어서 직접 URL을 열 수 있어도 마찬가지입니다. 해결책은 코드에서 파일을 읽어 base64로 인코딩하고, 메시지의 같은 이미지 부분에 데이터 URL(data:image/jpeg;base64,...)로 보내는 것입니다. "우리 VM에서는 URL이 잘 열리는데 모델은 읽지 못한다"는 지문이 바로 이 상황입니다.
돌아온 응답 읽기
Chat Completions 응답에는 finish_reason이 들어 있습니다. stop은 정상 종료입니다. length는 최대 토큰 수 때문에 답이 잘렸다는 뜻이므로, 한도를 올리거나 요청을 줄이세요. content_filter는 가드레일이 콘텐츠를 제거했다는 뜻입니다. tool_calls는 모델이 앱에 도구 실행을 요청한다는 뜻입니다. 응답이 길면 스트리밍을 켜서 사용자가 텍스트를 도착하는 대로 볼 수 있게 하세요.
텍스트, 음성, 비전, 추출 앱
Azure Language는 고정되고 반복 가능한 출력을 줍니다. 코드가 파싱할 수 있는 PII 마스킹이 그 예입니다. 프롬프트를 쓰는 모델은 유연하지만 출력이 달라집니다. Azure Language의 핵심 기능(PII, 언어 감지, 명명된 엔터티 인식, 의료용 텍스트 분석)은 신규 작업에 권장되고, 감정 분석, 핵심 구 추출, 요약은 이제 레거시로 분류됩니다. Azure Speech에서 단일 인식(single-shot recognition)은 말이 멈추거나 최대 15초가 지나면 끝나므로, 회의에는 연속 인식(continuous recognition)이 필요합니다. SSML은 음성, 속도, 발음을 제어합니다. 이미지는 gpt-image-2가 정식 출시(GA) 상태이고 dall-e-3는 사용 중지되었습니다. Content Understanding에서는 미리 만들어진(prebuilt) 분석기로 시작하세요. 사용자 지정 스키마에서 각 필드는 추출(extracted, 적힌 그대로 복사하며 문서에만 해당), 생성(generated), 분류(classified) 중 하나입니다.
더 깊이: 긴 채팅이 결국 깨지는 이유
모델은 호출 사이에 기억이 없습니다. Chat Completions에서는 코드가 사용자 메시지와 응답을 모두 목록에 덧붙여 매번 전부 보냅니다. Responses API에서는 서비스가 대신 이력을 보관할 수 있습니다. 어느 쪽이든 요청할 때마다 전체 이력이 시스템 메시지, 근거 데이터, 응답 자체와 함께 컨텍스트 창을 차지합니다. 대화가 충분히 길어지면 한도에 닿습니다. Learn은 토큰 수를 추적하고 가장 오래된 대화 차례부터 버리라고 권합니다. 지문에 "봇이 처음 스무 개 질문까지는 잘 작동하다가 실패했다"고 나오면 할당량이 아니라 컨텍스트 창을 떠올리세요.
알아보고 피해야 할 옛 이름
Azure AI Foundry는 이제 Microsoft Foundry이고, Azure AI services는 이제 Foundry Tools입니다. 콘텐츠 필터는 이제 가드레일이고, Image Analysis 4.0 API는 사용 중단(deprecated)되었고 2028년 9월 25일에 사용 중지됩니다. 옛 이름이나 사용 중지된 모델을 쓰는 오답 선택지는 새 솔루션에서는 대개 틀립니다.
연습하기
문제은행에서 연습하십시오. 모든 문제에 정답과 오답 보기마다 해설이 있습니다. 방금 공부한 도메인부터 시작하고, 그다음 시간 제한이 있는 모의고사를 보십시오.
- AI-901 시험 안내 · AI-901 문제 전체 285개 · 시간 제한 모의고사 · 13일 학습 계획
- 도메인별: Identify AI concepts and capabilities · Implement AI solutions by using Microsoft Foundry
평가 영역은 Microsoft의 AI-901 학습 가이드 기준입니다. Foundry 관련 이름, 모델 상태, 사용 중지 일정은 자주 바뀝니다. 최신 시험 페이지와 Microsoft Learn을 확인하세요.