생성형 AI란 무엇인가요?
"생성형 AI"라는 말이 요즘 어디서나 들립니다. ChatGPT, Claude, Gemini… 이것들이 모두 생성형 AI입니다. 그런데 기존 AI와 생성형 AI는 무엇이 다를까요?
기존 AI (판별형 AI): "이 이메일은 스팸인가 아닌가?" → 분류만 함 생성형 AI: "마케팅 이메일 초안을 써줘" → 새로운 콘텐츠를 만들어냄
즉, 생성형 AI는 기존에 없던 새로운 콘텐츠(텍스트, 이미지, 코드, 음악, 영상 등)를 생성하는 AI입니다.
---
대형 언어 모델(LLM) 이해하기
생성형 AI의 핵심 기술은 LLM(Large Language Model, 대형 언어 모델)입니다.
LLM은 어떻게 작동하나요?
LLM은 인터넷, 책, 기사 등 방대한 양의 텍스트를 읽고, "다음에 올 단어는 무엇인가?"를 예측하는 방식으로 학습합니다.
비유: 매우 많은 책을 읽은 사람이 문맥을 파악해 다음 문장을 자연스럽게 이어가는 것과 비슷합니다.
파라미터란?
LLM의 "파라미터"는 학습 과정에서 모델이 익힌 지식의 양을 나타냅니다. GPT-4는 약 1조 개, Llama 2는 70억~700억 개의 파라미터를 가집니다. 파라미터가 많을수록 일반적으로 더 강력하지만 더 많은 자원이 필요합니다.
기반 모델(Foundation Model, FM)
기반 모델은 대규모 데이터로 사전 학습된 범용 AI 모델입니다.
특징: 한 번 학습으로 다양한 작업에 활용 가능 (글쓰기, 번역, 요약, 코드 생성 등) 파인튜닝으로 특정 도메인에 최적화 가능 일반 사용자가 처음부터 학습시키기에는 비용이 너무 큼 (수백만~수십억 달러)
AWS에서의 기반 모델 접근: Amazon Bedrock
---
Amazon Bedrock 깊이 이해하기
Amazon Bedrock은 다양한 기반 모델에 단일 API로 접근할 수 있는 AWS 서비스입니다.
Bedrock에서 사용 가능한 모델들
| 회사 | 모델 | 특징 | |---|---|---| | Anthropic | Claude 시리즈 | 긴 문서 처리, 안전성 | | Amazon | Titan 시리즈 | 텍스트, 임베딩, 이미지 | | Meta | Llama 시리즈 | 오픈소스 기반 | | Mistral AI | Mistral 시리즈 | 경량 고성능 | | Stability AI | Stable Diffusion | 이미지 생성 | | Cohere | Command 시리즈 | 기업용 텍스트 |
Bedrock의 주요 기능
모델 호출 (Invoke Model): 단순 API 호출로 텍스트 생성, 요약, 번역 등 수행
Knowledge Base (지식 기반): 기업의 내부 문서를 연결해 AI가 해당 문서를 참조하여 답변 RAG(검색 증강 생성) 아키텍처 자동 구현 S3, Confluence, SharePoint 등 다양한 데이터 소스 지원
Agents (에이전트): 여러 단계의 작업을 자율적으로 수행하는 AI API를 호출해 실제 행동 수행 가능 (예: 주문 조회 → 결과 반환 → 재주문 실행)
Model Evaluation: 여러 모델의 응답 품질을 자동으로 비교·평가
Guardrails (가드레일): 유해한 콘텐츠 필터링, 특정 주제 차단 기업 정책에 맞는 AI 응답 보장
---
프롬프트 엔지니어링 기초
프롬프트(Prompt)는 AI에게 주는 입력 지시문입니다. 같은 AI 모델이라도 프롬프트를 어떻게 작성하느냐에 따라 결과가 크게 달라집니다.
좋은 프롬프트의 요소
역할 지정: "당신은 전문 카피라이터입니다." 작업 지시: "다음 제품에 대한 마케팅 문구를 작성해주세요." 맥락 제공: "대상 고객은 30대 직장인 여성입니다." 출력 형식: "3문장 이내로 작성해주세요."
주요 프롬프트 기법
| 기법 | 설명 | 예시 | |---|---|---| | Zero-shot | 예시 없이 바로 지시 | "이 문장을 요약해" | | One-shot | 예시 1개 제공 | "예시처럼 요약해: [예시]" | | Few-shot | 예시 여러 개 제공 | "다음 3가지 예시처럼 작성해" | | Chain-of-Thought | 단계별 추론 유도 | "단계별로 생각해서 풀어봐" | | System Prompt | 모델의 역할·행동 방식 설정 | "당신은 친절한 고객 서비스 담당자입니다" |
할루시네이션(Hallucination)
LLM이 실제로 존재하지 않는 정보를 마치 사실인 것처럼 생성하는 현상.
예시: "2023년 한국 GDP는 정확히 2.3조 달러입니다" — 정확한 수치가 아닐 수 있음.
해결 방법: RAG를 사용해 실제 문서에서 정보를 검색하도록 강제 모델에게 "모르면 모른다고 말해"라고 지시 Bedrock Guardrails로 신뢰할 수 없는 응답 필터링
---
RAG (검색 증강 생성) 이해하기
RAG는 LLM의 한계를 극복하기 위한 아키텍처입니다.
LLM의 한계
학습 데이터 이후의 정보는 모름 (지식 차단 날짜 이후 사건) 기업의 내부 정보는 모름 할루시네이션 가능성
RAG의 작동 원리
비유: 오픈북 시험처럼 교재를 보면서 답을 쓰는 것. AI가 관련 자료를 찾아보고 답합니다.
AWS 구현: Amazon Bedrock Knowledge Base + Amazon OpenSearch Serverless 또는 Amazon Aurora (벡터 스토어)
---
파인튜닝 vs RAG
시험에서 자주 나오는 비교입니다.
| 구분 | 파인튜닝 (Fine-tuning) | RAG | |---|---|---| | 방법 | 모델 가중치를 직접 업데이트 | 외부 문서를 검색해 참조 | | 비용 | 높음 (추가 학습 필요) | 상대적으로 낮음 | | 최신 정보 반영 | 재학습 필요 | 문서 업데이트만으로 즉시 반영 | | 적합한 경우 | 특정 스타일·형식·도메인 지식 습득 | 최신 정보 참조, 기업 내부 문서 | | AWS 도구 | Amazon Bedrock (모델 커스터마이징) | Amazon Bedrock Knowledge Base |
!파인튜닝 vs RAG 비교
생성형 AI의 윤리와 책임
AWS AIF-C01 시험은 생성형 AI의 책임 있는 사용도 다룹니다.
주요 위험 요소: 편향(Bias): 학습 데이터의 편향이 모델 출력에 반영 할루시네이션: 사실이 아닌 정보 생성 개인정보 침해: 민감 정보 유출 가능성 저작권 문제: AI가 생성한 콘텐츠의 저작권 불명확 딥페이크: 사실처럼 보이는 가짜 콘텐츠 생성
AWS의 대응 도구: Bedrock Guardrails: 유해 콘텐츠 차단, 주제 제한 Bedrock Model Evaluation: 편향 및 품질 평가 Amazon Macie: S3에서 민감한 데이터 자동 탐지 AWS AI Service Cards: 각 서비스의 한계와 편향 공개 문서