AWS GenAI 인프라와 서비스

시험 비중 28%의 AWS GenAI 서비스 도메인을 완전 정리합니다. Bedrock 기능별 비교, SageMaker와의 차이, Amazon Q 두 가지 서비스를 초보자 시각으로 설명합니다.

AIF-C01 시험에서 AWS GenAI 서비스 도메인은 전체의 약 28%를 차지하는 가장 높은 비중의 영역입니다. Amazon Bedrock, SageMaker JumpStart, Amazon Q, PartyRock, 그리고 AI 전용 하드웨어가 핵심입니다.

---

 

AWS GenAI 서비스 전체 그림 — 세 계층 구조

AWS의 생성형 AI 서비스를 처음 접하면 종류가 너무 많아 헷갈립니다. 집 짓기에 비유하면 이해하기 쉽습니다.

집을 지을 때는 벽돌 공장(원자재), 건설 회사(플랫폼), 완성된 아파트(완성형 서비스) 세 단계가 있습니다. AWS GenAI도 똑같이 세 계층으로 나뉩니다.

| 계층 | 비유 | AWS 서비스 | 역할 | |------|------|-----------|------| | 인프라 | 벽돌 공장 | Trainium, Inferentia | AI 전용 칩. 훈련과 추론에 최적화 | | 플랫폼 | 건설 회사 | Amazon Bedrock, SageMaker | FM 호출, 배포, 파인튜닝 | | 애플리케이션 | 완성 아파트 | Amazon Q, PartyRock | 바로 사용할 수 있는 AI 서비스 |

!AWS GenAI 3계층 아키텍처

Amazon Bedrock — 시험에서 가장 자주 나오는 서비스

Amazon Bedrock은 다양한 파운데이션 모델(FM)을 단일 API로 호출할 수 있는 완전 관리형 서비스입니다.

음원 스트리밍 서비스에 비유해봅니다. Spotify나 Melon 하나에 가입하면 수많은 아티스트의 음악을 골라 들을 수 있죠. Bedrock도 마찬가지입니다. Anthropic(Claude), Meta(Llama), Amazon(Titan), AI21(Jurassic) 등 여러 회사의 모델을 하나의 서비스에서 골라 쓸 수 있습니다.

Bedrock의 핵심 기능

| 기능 | 무엇을 하나? | |------|------------| | 모델 호출 API | 간단한 API 호출로 다양한 FM 사용 | | Knowledge Bases | RAG 파이프라인 자동 구축 | | Agents | 외부 시스템과 연동해 복잡한 작업 자동화 | | Guardrails | 유해 콘텐츠 필터링, 개인정보(PII) 마스킹, 특정 주제 차단 | | Model Evaluation | 여러 모델의 성능을 기준별로 비교 평가 | | Fine-tuning | 특정 도메인에 맞게 모델 커스터마이징 | | Continued Pre-training | 새로운 비라벨 데이터로 모델 추가 학습 |

Bedrock 비용 모델 — 어떤 방식으로 요금을 낼까?

비용 모델 선택은 시험 출제 포인트입니다. 세 가지 방식 중 상황에 맞는 것을 고릅니다.

| 비용 모델 | 설명 | 언제 선택? | |-----------|------|----------| | 온디맨드 (On-Demand) | 사용한 토큰만큼만 과금 | 트래픽 예측이 어렵고 소규모일 때 | | 프로비저닝 처리량 (Provisioned Throughput) | 일정 용량을 예약하고 고정 요금 지불 | 트래픽이 많고 안정적일 때 | | 배치 추론 (Batch Inference) | 대량 요청을 모아서 한꺼번에 처리 | 실시간 응답이 필요 없는 배치 작업 |

시험 꿀팁: "트래픽이 일정하고 대용량" → 프로비저닝 처리량, "간헐적이고 예측 불가" → 온디맨드

---

 

Amazon Bedrock 파인튜닝 방법

모델을 특정 도메인에 맞게 조정하는 방법은 세 가지입니다.

| 방법 | 설명 | 필요한 데이터 | |------|------|------------| | Fine-tuning | 레이블된 데이터(질문-답변 쌍)로 커스터마이징 | 수백~수천 개의 예시 | | Continued Pre-training | 라벨 없는 도메인 텍스트로 추가 학습 | 대량의 비구조화 텍스트 | | RLHF | 사람이 선호하는 답변을 피드백으로 모델 개선 | 사람의 비교 피드백 |

---

 

SageMaker JumpStart — 모델을 내 인프라에 직접 배포

Bedrock과 SageMaker JumpStart는 둘 다 FM을 사용하지만 방식이 다릅니다. 시험에서 자주 혼동되는 포인트입니다.

커피숍 비유를 들어보겠습니다. Amazon Bedrock = 스타벅스. 카드 내고 바로 마십니다. 원두 산지, 로스팅 방식을 몰라도 됩니다. SageMaker JumpStart = 직접 카페 창업. 원두를 골라 로스팅하고 머신을 설정합니다. 더 자유롭지만 더 복잡합니다.

| 비교 항목 | Amazon Bedrock | SageMaker JumpStart | |----------|----------------|---------------------| | 모델 관리 | AWS와 파트너사가 관리 | 내 인프라에 직접 배포 | | 커스터마이징 | 제한적 파인튜닝 | 전면적 커스터마이징 가능 | | 관리 복잡도 | 낮음 (완전 관리형) | 높음 (인프라 직접 관리) | | 주요 사용자 | 앱 개발자, 빠른 프로토타이핑 | ML 엔지니어, 세밀한 제어 | | 접근 방식 | API 호출 | 직접 배포 및 호스팅 |

시험 꿀팁: "자체 인프라에 배포, 세밀한 제어 필요" → SageMaker JumpStart / "간단한 API로 FM 호출" → Bedrock

---

 

Amazon Q — 목적별로 특화된 AI 어시스턴트

Amazon Q는 두 가지 제품으로 나뉩니다. 이름이 비슷해 헷갈리기 쉬우므로 정확히 구분해야 합니다.

Amazon Q Business — 사내 데이터 기반 AI 비서

사내 문서, 위키, 이메일, Slack 메시지 등에서 답변을 찾아주는 AI 어시스턴트입니다.

직장 내 "만능 선배"를 상상해보세요. 어떤 질문을 해도 "지난 분기 보고서에 나왔어요", "인사팀 가이드라인 3페이지에 있어요" 하며 정확한 출처를 알려줍니다. Amazon Q Business가 바로 이 역할을 합니다.

주요 특징: 40개 이상 데이터 소스 커넥터 (Salesforce, SharePoint, S3, Confluence 등) 사용자 권한에 따라 접근 가능한 데이터만 응답 (보안 필수) 반복 업무 워크플로우 자동화

Amazon Q Developer — 코드 작성 AI 어시스턴트

VS Code, JetBrains 등 IDE와 통합되어 개발자를 돕는 AI입니다.

주요 기능: 코드 자동 완성 (코파일럿처럼) 보안 취약점 자동 감지 및 수정 제안 단위 테스트 자동 생성 AWS CLI 명령어 자동 생성 코드 리팩토링 제안

---

 

PartyRock — 코드 없이 GenAI 앱 만들기

PartyRock은 코딩 경험이 전혀 없어도 드래그앤드롭으로 생성형 AI 앱을 만들 수 있는 노코드(No-code) 플랫폼입니다.

어린이용 레고 블록에 비유할 수 있습니다. 블록을 조합하듯 AI 위젯을 연결하면 앱이 완성됩니다. 아이디어를 빠르게 검증하거나 프로토타입을 만들기에 적합합니다. 내부적으로 Amazon Bedrock을 기반으로 동작합니다.

---

 

AWS AI 전용 하드웨어

GPU는 원래 게임 그래픽을 위해 만들어진 칩인데, AI에도 잘 맞아 많이 사용됩니다. AWS는 AI에 특화된 자체 칩을 개발했습니다.

| 칩 | 역할 | 핵심 장점 | |----|------|---------| | AWS Trainium | ML 모델 훈련 전용 | GPU 대비 최대 50% 비용 절감 | | AWS Inferentia | 모델 추론(예측) 전용 | 저렴한 비용으로 빠른 추론 |

기억법: Train → Trainium (훈련), Infer → Inferentia (추론)

---

 

시험 핵심 정리

"여러 파운데이션 모델을 단일 API로 호출" — Amazon Bedrock

"RAG 파이프라인 자동 구축" — Bedrock Knowledge Bases

"유해 콘텐츠 필터링, PII 마스킹, 특정 주제 차단" — Bedrock Guardrails

"자체 인프라에 FM 배포, 세밀한 커스터마이징" — SageMaker JumpStart

"사내 데이터 기반 AI 어시스턴트, 40+ 커넥터" — Amazon Q Business

"코드 생성, 보안 취약점 감지, IDE 통합" — Amazon Q Developer

블로그 목록으로 돌아가기