AIF-C01 시험에서 생성형 AI 핵심 개념 도메인은 전체의 약 25%를 차지합니다. LLM, 파운데이션 모델, 토큰, 임베딩, RAG, 프롬프트 엔지니어링이 핵심 키워드입니다.
---
생성형 AI란 무엇인가?
기존 AI는 주어진 데이터를 분류하거나 예측하는 데 집중했습니다. "이 이메일이 스팸인가 아닌가?"를 판별하거나 "내일 기온이 몇 도일까?"를 예측하는 식입니다.
생성형 AI는 완전히 새로운 콘텐츠를 만들어냅니다. ChatGPT, Claude, DALL-E, GitHub Copilot이 대표적인 예입니다.
비유: 기존 AI는 사진을 보고 "이게 고양이야, 강아지야?"라고 답하는 심판입니다. 생성형 AI는 "고양이 그림 그려줘"라는 요청에 새 그림을 만들어내는 화가입니다.
---
파운데이션 모델 — 범용 AI의 기초
파운데이션 모델(Foundation Model)은 인터넷의 방대한 텍스트, 코드, 이미지 등으로 사전 학습(pre-training)된 거대한 범용 AI 모델입니다. 하나의 모델이 번역, 요약, 코드 생성, 질의응답 등 다양한 작업을 수행할 수 있습니다.
대학 교육에 비유할 수 있습니다. 대학에서 수학, 언어, 과학 등 다양한 기초 교육을 받습니다. 이 과정이 파운데이션 모델의 사전 학습입니다. 졸업 후 특정 분야 대학원(파인튜닝)에 진학하면 전문가가 됩니다.
| 특징 | 설명 | |------|------| | 사전 학습 | 인터넷, 책, 코드 등 방대한 데이터로 학습 | | 범용성 | 하나의 모델로 다양한 태스크 처리 | | 파인튜닝 가능 | 특정 도메인 데이터로 추가 학습해 전문화 | | 제로샷/퓨샷 | 예제 없이 또는 소수 예제만으로 새 작업 수행 |
AWS에서는 Amazon Bedrock이 Anthropic Claude, Meta Llama, Amazon Titan 등 다양한 파운데이션 모델을 API로 제공합니다.
---
LLM — 언어를 이해하고 생성하는 AI
LLM(Large Language Model, 대규모 언어 모델)은 텍스트를 이해하고 생성하는 파운데이션 모델의 한 종류입니다. "대규모"인 이유는 수십억~수조 개의 파라미터(모델 가중치)로 구성되어 있기 때문입니다.
파라미터는 모델이 학습을 통해 얻은 지식의 총합입니다. 사람으로 치면 뇌의 신경 연결 강도와 같습니다.
---
토큰 — AI가 텍스트를 처리하는 최소 단위
모델은 텍스트를 통째로 처리하지 않습니다. "토큰"이라는 작은 단위로 쪼개서 처리합니다.
토큰은 단어 하나가 될 수도 있고, 단어의 일부(접두사, 어미)가 될 수도 있습니다. 영어에서 "I love AWS Bedrock"은 ["I", " love", " AWS", " Bed", "rock"] 5개 토큰으로 나뉠 수 있습니다.
왜 토큰이 중요한가?
비용: LLM API는 입력 토큰과 출력 토큰 수 기준으로 과금됩니다 제한: 컨텍스트 윈도우(한 번에 처리할 수 있는 최대 토큰 수)에 한계가 있습니다 속도: 토큰이 많을수록 처리 시간이 길어집니다
---
컨텍스트 윈도우 — AI의 작업 기억
모델이 한 번의 요청에서 처리할 수 있는 최대 토큰 수입니다. 사람의 단기 기억과 비슷합니다.
창문으로 밖을 내다보는 상황을 떠올려보세요. 창문이 작으면 전체 풍경을 한 번에 볼 수 없습니다. 컨텍스트 윈도우가 작으면 긴 문서를 한 번에 다루기 어렵습니다.
Claude 3.5 Sonnet의 컨텍스트 윈도우는 200,000 토큰(약 150,000단어)입니다. 모델마다 크기가 다르며, 큰 윈도우는 더 긴 문서를 처리하지만 비용이 더 높습니다.
---
임베딩 — 텍스트를 숫자로 변환하기
임베딩(Embedding)은 텍스트, 이미지 등을 고차원 숫자 벡터로 변환하는 것입니다.
지도에 비유해봅니다. 비슷한 나라들은 지리적으로 가까이 있습니다. 임베딩도 마찬가지입니다. 의미가 비슷한 단어나 문장은 벡터 공간에서 가까이 위치합니다.
실제 예시: "강아지"와 "개"의 임베딩 벡터 → 매우 가깝습니다 "강아지"와 "우주선"의 임베딩 벡터 → 멀리 떨어져 있습니다 "왕 - 남자 + 여자 = 여왕" → 벡터 연산으로 의미적 관계 표현 가능
---
벡터 데이터베이스 — 임베딩을 저장하는 창고
임베딩된 벡터를 저장하고, 주어진 쿼리 벡터와 가장 유사한 벡터를 빠르게 찾는 특수 데이터베이스입니다.
일반 데이터베이스: "이름이 정확히 '홍길동'인 사람 찾아줘" (정확 일치) 벡터 데이터베이스: "이 질문과 가장 비슷한 의미의 문서 찾아줘" (유사도 검색)
AWS에서 사용 가능한 벡터 데이터베이스: Amazon OpenSearch Service (Bedrock의 기본 옵션) Amazon Aurora PostgreSQL (pgvector 확장) Amazon MemoryDB for Redis
---
청킹 — 긴 문서를 적당한 크기로 자르기
긴 문서를 모델의 컨텍스트 윈도우에 맞게 작은 조각(청크)으로 나누는 작업입니다.
백과사전 한 권을 통째로 모델에 넣을 수 없으니, 적당한 단락으로 나눠서 저장합니다. 청크가 너무 작으면 문맥이 끊기고, 너무 크면 불필요한 정보가 섞입니다.
---
RAG — 할루시네이션 해결의 핵심 패턴
RAG(Retrieval-Augmented Generation, 검색 증강 생성)는 생성형 AI의 할루시네이션 문제를 해결하는 핵심 아키텍처 패턴입니다.
RAG가 작동하는 방식: 사내 문서, 최신 뉴스 등을 임베딩해 벡터 DB에 저장합니다 사용자 질문이 들어오면 질문도 임베딩으로 변환합니다 벡터 DB에서 질문과 가장 유사한 문서 청크를 검색합니다 검색된 문서를 LLM의 컨텍스트에 포함해 답변을 생성합니다
| 방법 | 설명 | 비용 | |------|------|------| | 파인튜닝 | 모델 파라미터에 직접 지식 학습 | 높음 | | RAG | 외부 지식 소스를 실시간 검색해 컨텍스트에 추가 | 중간 | | 프롬프트 엔지니어링 | 입력 프롬프트 최적화 | 가장 낮음 |
---
프롬프트 엔지니어링
모델에게 더 정확하고 유용한 답변을 이끌어내기 위해 입력 프롬프트를 설계하는 기술입니다.
| 기법 | 설명 | 예시 | |------|------|------| | 제로샷 (Zero-shot) | 예제 없이 바로 질문 | "이 문장을 프랑스어로 번역해" | | 퓨샷 (Few-shot) | 2~5개 예제를 제공한 후 질문 | 긍정/부정 예시를 주고 새 문장 분류 | | 사슬 사고 (Chain-of-Thought) | 단계별로 생각하게 유도 | "단계별로 풀어줘" | | 역할 부여 (Role Prompting) | 특정 전문가 역할 지정 | "당신은 AWS 전문가입니다" |