AI 거버넌스란 무엇인가?
AI 거버넌스(AI Governance)는 AI 시스템이 안전하고, 공정하고, 법적으로 올바르게 작동하도록 관리하는 체계입니다.
병원에서 의사가 처방을 내리는 과정을 생각해봅시다. 의사는 아무 약이나 임의로 처방하지 않습니다. 환자 기록을 검토하고, 부작용을 고려하고, 관련 법규를 따르며, 그 결정을 의무기록에 남깁니다. AI도 마찬가지입니다. AI가 중요한 결정을 내릴 때는 그 과정이 투명해야 하고, 문제가 생기면 누가 책임지는지가 명확해야 합니다.
AIF-C01 시험에서 AI 거버넌스는 도메인 5(보안, 규정 준수, 거버넌스)의 핵심 주제입니다. 전체 시험의 약 14%를 차지합니다.
---
거버넌스의 3대 핵심 요소
AI 거버넌스를 이해할 때 가장 먼저 알아야 할 세 가지 개념입니다.
| 요소 | 의미 | 실생활 비유 | |------|------|-----------| | 투명성 (Transparency) | AI가 어떻게 작동하는지 공개 | 식품 영양성분 표시 | | 설명 가능성 (Explainability) | AI가 왜 그 결정을 내렸는지 설명 가능 | 의사가 진단 근거를 설명하는 것 | | 책임성 (Accountability) | 문제 발생 시 책임 소재 명확 | 운전자가 사고에 대한 법적 책임 지는 것 |
이 세 요소는 서로 연결됩니다. 투명해야 설명할 수 있고, 설명할 수 있어야 책임질 수 있습니다.
---
설명 가능한 AI (Explainable AI)
은행에서 대출 신청을 했는데 거절되었다고 생각해보세요. "AI가 거절했습니다"라는 답변만 받는다면 억울하지 않을까요? 어떤 이유로 거절됐는지 알아야 이의를 제기하거나 다음에 더 좋은 조건으로 재신청할 수 있습니다.
이것이 바로 설명 가능한 AI(XAI)가 필요한 이유입니다. 법적으로도 EU AI Act, GDPR 같은 규정은 AI 결정에 대한 설명 의무를 명시하고 있습니다.
블랙박스 모델 vs 화이트박스 모델
| 구분 | 설명 가능성 | 예시 모델 | 특징 | |------|-----------|---------|------| | 화이트박스 (White-box) | 높음 | 선형 회귀, 의사결정 트리 | 내부 논리가 보임, 성능 제한 있음 | | 블랙박스 (Black-box) | 낮음 | 딥러닝, 대형 언어 모델 | 성능 우수하지만 내부 논리 불투명 |
딥러닝 같은 블랙박스 모델에는 SHAP, LIME 같은 사후 설명(post-hoc explanation) 기법을 적용해 "이 예측에 가장 영향을 준 특성이 무엇인지" 파악할 수 있습니다.
---
SageMaker Model Cards
Model Cards는 AI 모델의 "상품 설명서"입니다. 모델을 만든 사람이 아닌 사람도 그 모델이 무엇인지, 어떤 한계가 있는지, 어떻게 사용해야 하는지 알 수 있도록 표준화된 형식으로 정리한 문서입니다.
Model Cards에 포함되는 정보
| 섹션 | 내용 | |------|------| | 모델 개요 | 이름, 버전, 개발 날짜, 담당자 | | 의도된 사용 목적 | 적합한 사용 사례, 사용하면 안 되는 경우 | | 훈련 정보 | 사용한 데이터셋, 훈련 방법, 하이퍼파라미터 | | 평가 결과 | 다양한 집단에 대한 정확도, 오류율 | | 공정성 분석 | 편향 평가 결과, 알려진 한계 | | 윤리적 고려사항 | 오용 가능성, 위험 요소 |
Model Cards가 필요한 이유
의사가 처방전을 작성할 때 약품 명칭과 용량, 복용 방법, 부작용을 모두 기록하는 것처럼, AI 모델도 "이 모델은 어떤 데이터로 학습했고, 어떤 경우에 잘 맞지 않을 수 있는지"를 문서화해야 합니다.
이를 통해 다음 세 가지를 달성합니다: 투명성: 모델의 작동 방식을 외부에 공개 책임성: 성능과 한계를 기록해 책임 소재 명확화 규정 준수: GDPR, EU AI Act 등 법적 요건 충족
---
AWS 규정 준수 서비스
AI 시스템도 GDPR, HIPAA, SOC 2 같은 다양한 법적 규정을 따라야 합니다. AWS는 이를 자동화·간소화하는 서비스들을 제공합니다.
이 서비스들을 "감사관이 우리 회사를 검사하러 왔을 때 보여줄 수 있는 증거 자료를 자동으로 만들어주는 도구"라고 생각하면 됩니다.
규정 준수 핵심 서비스 비교
| 서비스 | 역할 | 기억하는 방법 | |--------|------|-------------| | AWS Config | 리소스 설정 변경 이력 추적, 위반 감지 | "설정이 언제 바뀌었나?" | | AWS CloudTrail | 모든 API 호출 기록 (감사 추적) | "누가 언제 무엇을 했나?" | | AWS Audit Manager | 규정 준수 감사 보고서 자동 생성 | "감사 자료 자동 정리" | | AWS Artifact | AWS의 공식 규정 준수 보고서 제공 | "AWS가 규정 지켰다는 증명서" | | Amazon Macie | S3에서 개인정보(PII) 자동 탐지 | "이 버킷에 주민등록번호가 있나?" |
시험 팁: AWS Config와 CloudTrail은 자주 헷갈립니다. Config는 "무엇이 어떻게 설정되어 있는지", CloudTrail은 "누가 무엇을 했는지"를 기록합니다.
---
데이터 거버넌스
AI 모델의 품질은 결국 데이터의 품질에 달려 있습니다. 데이터 거버넌스는 AI 훈련에 사용되는 데이터를 올바르게 수집, 보관, 사용, 폐기하는 체계입니다.
데이터 거버넌스 핵심 원칙
훈련 데이터 관련: 사용 목적에 맞는 데이터만 수집 (최소화 원칙) 개인정보를 포함한 경우 동의 확보 데이터 출처와 라이선스 기록 민감한 데이터는 암호화 저장
AI 모델 운영 관련: 모델 입력/출력 로깅 (CloudTrail, CloudWatch) 모델 성능 모니터링 (드리프트 감지) 정기적인 편향 재평가
---
공유 책임 모델의 AI 적용
AWS는 클라우드 서비스 전반에 "공유 책임 모델(Shared Responsibility Model)"을 적용합니다. AI에도 동일하게 적용됩니다.
AI에서의 공유 책임
| 책임 주체 | 담당 영역 | |----------|---------| | AWS 책임 | 물리적 인프라 보안, 하이퍼바이저, 기반 서비스의 안전성 | | 고객 책임 | 훈련 데이터 품질, 모델 편향 감지, 출력 검토, IAM 권한 관리 |
쉽게 비유하면: AWS는 건물을 짓고 관리합니다. 고객은 그 건물 안에서 무엇을 하는지, 문을 잠그는지, 이상한 손님을 들이지 않는지를 책임집니다.
---
시험 핵심 정리
| 개념 | 시험 포인트 | |------|-----------| | Model Cards | 모델의 목적, 한계, 편향, 훈련 정보를 문서화 — 투명성과 책임성의 핵심 | | AWS Config | 리소스 설정 변경 추적 (규정 위반 감지) | | CloudTrail | API 호출 감사 로그 (누가 무엇을 했나) | | Audit Manager | 규정 준수 감사 보고서 자동 생성 | | Amazon Macie | S3에서 개인정보(PII) 자동 탐지 | | 공유 책임 모델 | AWS = 인프라 보안 / 고객 = 데이터·모델·접근 관리 | | 설명 가능한 AI | 화이트박스는 설명하기 쉽고, 블랙박스는 SHAP/LIME으로 사후 설명 |