Amazon Bedrock — 처음 써보는 분도 이해하는 완전 입문 가이드
Amazon Bedrock이라는 이름을 처음 들어보셨나요? AI를 직접 만들지 않아도 강력한 AI 기능을 내 서비스에 붙일 수 있게 해주는 AWS의 핵심 서비스입니다. AIF-C01 시험에서 Bedrock 관련 문제가 매우 자주 출제되므로, 처음부터 차근차근 정리해드리겠습니다.
---
Amazon Bedrock이란?
Amazon Bedrock은 AI 모델을 직접 만들거나 서버를 구성할 필요 없이, 이미 만들어진 강력한 AI 모델(파운데이션 모델)을 API 형태로 사용할 수 있게 해주는 AWS의 완전 관리형 서비스입니다.
식당 비유로 설명하겠습니다. 직접 식재료를 키우고, 주방을 설계하고, 요리사를 고용하는 것이 아니라 — 이미 잘 갖춰진 레스토랑의 주방을 빌려서 내 메뉴만 골라 제공하는 것입니다.
핵심 특징 네 가지를 꼭 기억하세요.
완전 관리형: 서버 관리, 인프라 구성 필요 없음 데이터 프라이버시: 내 데이터는 절대 AWS 계정 밖으로 나가지 않음 종량제 요금: 사용한 만큼만 비용 지불, 선결제 없음 표준화된 API: 어떤 모델을 사용하든 같은 방식으로 호출
---
어떤 AI 모델을 쓸 수 있나?
Bedrock에서는 여러 회사의 파운데이션 모델 중에서 골라서 사용할 수 있습니다.
| 회사 | 모델 | 특징 | |---|---|---| | Amazon | Titan | 멀티모달, 미세조정 가능, 비용 효율 | | Anthropic | Claude | 최대 20만 토큰 컨텍스트, 복잡한 분석에 강함 | | Meta | Llama | 대규모 텍스트 작업에 적합 | | Stability AI | Stable Diffusion | 이미지 생성 전용 |
시험 포인트: 항상 더 크고 비싼 모델이 최선은 아닙니다. 용도에 맞는 모델을 선택하는 것이 핵심입니다.
---
파인튜닝 — 모델을 내 것으로 만들기
Bedrock에서 제공하는 기본 모델을 내 회사 데이터로 추가 학습시키는 것을 파인튜닝이라고 합니다. 세 가지 방식이 있으며, 목적과 비용이 다릅니다.
명령어 기반 파인튜닝 (Instruction-Based Fine-Tuning)
가장 저렴하고 빠른 방법입니다. "질문-정답" 쌍으로 된 데이터를 주면 특정 작업에 더 잘 대응하도록 학습합니다. 고객 서비스 챗봇에 자주 쓰입니다.
지속적 사전학습 (Continued Pre-training)
대량의 텍스트 문서(레이블 없음)를 이용해 모델을 특정 분야 전문가로 만드는 방법입니다. 의료 논문 수천 건을 학습시켜 의료 전문 AI를 만드는 것이 예시입니다. 비용이 더 많이 듭니다.
대화형 파인튜닝 (Conversational Fine-Tuning)
고객 응대처럼 여러 턴의 대화 흐름이 중요한 경우에 사용합니다. 대화 데이터(시스템 메시지-사용자 발화-답변) 형식으로 학습합니다.
시험에서는 세 가지 방식의 차이와 어느 상황에 어떤 것을 쓰는지 자주 물어봅니다.
---
RAG — 최신 정보를 실시간으로 연결하기
RAG(Retrieval-Augmented Generation)는 모델이 모르는 최신 정보나 회사 내부 문서를 실시간으로 검색해서 답변에 포함시키는 기술입니다.
도서관 사서 비유가 딱 맞습니다. AI가 직접 모든 걸 외우는 대신, 필요할 때 도서관에서 찾아와 답변합니다.
RAG와 파인튜닝을 언제 쓸지 구분하는 것이 시험의 핵심입니다.
| 상황 | 추천 방법 | |---|---| | 매주/매일 변하는 최신 정보 | RAG | | 고정된 전문 분야 지식 | 파인튜닝 | | 회사 내부 문서 빠르게 연결 | RAG | | 특정 말투·스타일 조정 | 파인튜닝 |
RAG 동작 순서를 정리하면 다음과 같습니다.
문서를 S3, Confluence, SharePoint 등에 저장 Bedrock이 문서를 벡터(숫자 배열)로 변환해 저장 사용자 질문이 들어오면 유사한 문서 검색 검색된 문서 내용을 프롬프트에 포함해 AI에게 전달 AI가 참고 정보를 바탕으로 정확한 답변 생성
---
벡터 데이터베이스 — RAG의 엔진
벡터 데이터베이스는 텍스트를 숫자 배열(벡터)로 바꿔서 저장하고, "의미가 비슷한" 내용을 빠르게 찾아주는 특수 데이터베이스입니다.
예를 들어 "강아지"와 "개"는 다른 단어지만 의미가 비슷하므로, 벡터 공간에서 서로 가까이 위치합니다. 키워드 검색이 아닌 "의미 기반 검색"이 가능한 이유입니다.
AWS에서 사용할 수 있는 벡터 데이터베이스는 다음과 같습니다.
| 서비스 | 특징 | |---|---| | Amazon OpenSearch Service | 실시간 검색, 대규모 운영에 적합 | | Amazon Aurora | 기존 관계형 DB에 벡터 기능 추가 | | Amazon Neptune Analytics | 그래프 기반 RAG | | Amazon S3 Vectors | 비용 최적화 시나리오 |
---
Bedrock 에이전트 — AI가 스스로 행동하게 하기
에이전트는 단순히 질문에 답하는 것을 넘어서, 실제로 행동을 취합니다. 예를 들어 고객이 "내 주문 상태 확인해줘"라고 하면:
주문 DB를 조회하고 현재 배송 상태를 확인하고 필요하면 자동으로 배송 업체에 문의하고 결과를 고객에게 전달합니다.
에이전트가 할 수 있는 일들은 다음과 같습니다.
외부 API 호출 AWS Lambda 함수 실행 데이터베이스 조회·업데이트 Knowledge Base에서 문서 검색
---
가드레일 — AI의 안전 울타리
가드레일은 AI가 잘못된 답변을 하거나 개인정보를 노출하지 않도록 막아주는 필터입니다. 세 단계로 작동합니다.
| 단계 | 역할 | |---|---| | 입력 필터링 | 악의적인 질문·프롬프트 차단 | | 처리 제어 | 답변 범위 제한 | | 출력 정화 | 개인정보(이름, 이메일, 전화번호) 자동 마스킹 |
---
가격 모델 — 얼마나 내나?
Bedrock은 세 가지 요금 방식 중 선택할 수 있습니다.
| 방식 | 특징 | 할인 | 적합 상황 | |---|---|---|---| | 온디맨드 | 사용한 토큰만 과금 | 없음 | 트래픽이 불규칙할 때 | | 배치 처리 | 여러 요청을 묶어서 처리 | 최대 50% | 야간 대량 처리 | | 프로비저닝 처리량 | 월/6개월 약정 | 장기 할인 | 안정적인 대규모 운영 |
중요: 파인튜닝한 커스텀 모델은 반드시 프로비저닝 처리량 방식을 사용해야 합니다. 온디맨드 방식으로는 배포할 수 없습니다.