AI 모델이 강력해질수록 "모델이 공정하게 동작하는가", "의사결정을 설명할 수 있는가", "인간이 검토하고 개입할 수 있는가"에 대한 질문이 중요해집니다. AIP-C01 시험은 이 책임 있는 AI 원칙들을 AWS 서비스 레이어에서 어떻게 구현하는지 묻습니다.
AWS의 책임 있는 AI 6대 원칙
AWS는 책임 있는 AI를 위한 6가지 핵심 원칙을 정의합니다.
| 원칙 | 설명 | |------|------| | 공정성(Fairness) | 다양한 인구통계 그룹에 대해 일관된 성능 유지 | | 설명 가능성(Explainability) | 모델 예측의 근거를 이해 가능하게 제시 | | 개인정보 보호(Privacy) | 훈련 데이터와 추론 데이터 보호 | | 보안(Security) | 모델과 데이터 파이프라인 보호 | | 투명성(Transparency) | 모델 역할, 한계, 의도된 사용 사례 공개 | | 안전성(Safety) | 유해 콘텐츠 방지 및 인간 감독 유지 |
이 원칙들은 추상적인 가이드라인이 아니라 구체적인 AWS 서비스와 연결됩니다. 시험은 "어떤 원칙을 위해 어떤 서비스를 사용하는가"를 묻습니다.
!AWS 책임 있는 AI 6대 원칙
편향(Bias)의 유형과 발생 지점
편향은 데이터, 모델 설계, 운영 환경 등 여러 지점에서 발생할 수 있습니다. 시험에 자주 등장하는 편향 유형들을 이해하는 것이 중요합니다.
: 훈련 데이터가 실제 배포 환경의 분포를 대표하지 않는 경우. 예를 들어 특정 연령대나 지역의 사용자 데이터만 수집된 경우.
: 특정 그룹에 대해 데이터 수집 방식이 다른 경우. 예를 들어 고소득층은 정확한 소득 데이터, 저소득층은 추정치를 사용한 경우.
: 모델이 기존 편견을 강화하는 방향으로 학습되는 경우. 과거의 차별적 결정이 훈련 레이블로 사용된 경우.
: 다양한 그룹을 하나의 모델로 통합할 때 특정 그룹의 특성이 희석되는 경우.
: 모델이 훈련된 환경과 다른 환경에 배포되어 발생하는 편향. 시간적 변화(계절, 경기 변동)나 지리적 차이가 원인.
SageMaker Clarify — 편향 탐지와 설명 가능성
SageMaker Clarify는 두 가지 핵심 기능을 제공합니다.
편향 탐지
Clarify는 훈련 전 데이터 편향과 훈련 후 모델 편향을 모두 측정합니다.
훈련 전 데이터 편향 지표:
: 레이블 분포의 불균형 정도 : 민감 속성 그룹 간 양성 레이블 비율 차이 : 데이터 분포 차이를 정보이론으로 측정
훈련 후 모델 편향 지표:
: 그룹 간 긍정 예측 비율 차이 : 불리한 그룹의 긍정 예측 비율 대 유리한 그룹의 비율 : 조건부 인구통계 불균형
설명 가능성 (Explainability)
Clarify는 SHAP(SHapley Additive exPlanations) 알고리즘으로 특성 중요도를 계산합니다. 특정 예측에 각 입력 특성이 얼마나 기여했는지 정량화합니다.
글로벌 설명(Global Explanation): 전체 데이터셋에서 어떤 특성이 가장 중요한지 파악. 모델 개선 방향 제시. 로컬 설명(Local Explanation): 특정 샘플의 예측 이유 설명. 대출 거절 이유를 고객에게 설명하는 데 활용.
공정성(Fairness) 평가 지표 이해
공정성을 단일 지표로 정의하는 것은 불가능합니다. 서로 다른 공정성 정의가 수학적으로 동시에 충족될 수 없는 경우가 많기 때문입니다.
실무에서 자주 사용하는 공정성 지표:
: 모든 그룹에서 동일한 양성 예측 비율. 예: 모든 인종 그룹에서 대출 승인율이 동일해야 한다.
: 양성 실제값에 대한 True Positive Rate가 그룹 간 동일. 예: 실제로 자격 있는 지원자의 합격률이 그룹 간 동일해야 한다.
: 예측 확률과 실제 결과 빈도가 일치. 예: 80% 신뢰도로 예측하면 실제로 80%가 맞아야 한다.
공정성 정의 선택은 기술적 문제이기 전에 윤리적·법적 문제입니다. 시험에서는 "어떤 공정성 지표를 적용해야 하는가"보다는 각 지표의 개념과 AWS 도구로 어떻게 측정하는지를 묻습니다.
SageMaker Model Cards — 모델 투명성 문서화
Model Cards는 모델의 목적, 성능 지표, 훈련 데이터, 편향 평가 결과, 의도된 사용 사례와 금지된 사용 사례를 표준화된 형식으로 문서화합니다. 조직 내 거버넌스 프로세스(모델 검토, 승인, 폐기)에 Model Cards를 필수 아티팩트로 통합하는 것이 권장됩니다.
Model Cards에 포함되어야 하는 주요 섹션:
모델 개요: 이름, 버전, 생성일, 개발자 의도된 사용: 목적, 대상 사용자, 적용 환경 성능 지표: 전체 지표와 하위 그룹별 지표 훈련 데이터: 출처, 전처리 방법, 알려진 한계 편향 평가: Clarify 결과 요약 윤리적 고려사항과 권장 사항
Amazon Augmented AI (A2I) — Human-in-the-Loop
모든 AI 결정을 자동화할 수 없는 경우가 있습니다. 확신도가 낮은 예측, 규정이 요구하는 인간 검토, 새로운 엣지 케이스를 다룰 때 사람이 개입해야 합니다. Amazon A2I는 이 Human-in-the-loop 워크플로를 관리형 서비스로 제공합니다.
A2I 주요 구성 요소:
| 구성 요소 | 역할 | |----------|------| | Human Review Workflow | 검토 조건, 검토자, 완료 기준 정의 | | Human Task UI | 검토자가 사용하는 작업 인터페이스 | | Work Team | 내부 직원 또는 Amazon Mechanical Turk 외부 검토자 | | Flow Definition | 검토 트리거 조건과 라우팅 규칙 |
트리거 조건 예시:
Textract, Rekognition과 같은 AWS AI 서비스와 기본 통합됩니다. 커스텀 ML 모델에도 A2I API로 연결할 수 있습니다.
AWS Config와 Audit Manager — 규정 준수 거버넌스
AI 거버넌스 정책이 실제로 준수되는지 지속적으로 검증하려면 자동화된 컴플라이언스 도구가 필요합니다.
AWS Config는 SageMaker 리소스의 구성 변경을 추적하고 정책 준수를 평가합니다. 예를 들어 "모든 SageMaker 엔드포인트에 KMS 암호화가 적용되어야 한다"는 Config Rule을 만들어 위반 시 자동 알림을 받을 수 있습니다.
AWS Audit Manager는 규정 프레임워크(GDPR, HIPAA, ISO 27001)에 대한 증거를 자동으로 수집합니다. AI 관련 감사 항목을 사전 정의된 프레임워크에 추가해 감사 보고서를 자동 생성할 수 있습니다.
데이터 계보(Data Lineage) 추적
모델이 어떤 데이터로 훈련되었는지, 데이터가 어떻게 변환되었는지 추적하는 것은 재현성과 규정 준수 모두에 중요합니다.
SageMaker ML Lineage Tracking은 다음을 자동으로 기록합니다:
훈련 데이터 소스 (S3 URI, 버전) 데이터 전처리 단계와 변환 파라미터 훈련 작업 파라미터와 환경 생성된 모델 아티팩트와 엔드포인트
API로 특정 엔드포인트가 어떤 데이터로 훈련되었는지 역추적할 수 있습니다. 데이터 오염(data poisoning) 의심 시 원인 추적과 영향받은 모델 식별에 필수입니다.
시험 핵심 정리
"훈련 데이터 편향 탐지" -- SageMaker Clarify (Pre-training bias) "모델 예측 설명 (SHAP)" -- SageMaker Clarify Explainability "모델 문서화, 사용 사례·한계 기록" -- SageMaker Model Cards "낮은 신뢰도 예측 인간 검토" -- Amazon Augmented AI (A2I) "AI 정책 컴플라이언스 자동 검증" -- AWS Config Rules "감사 증거 자동 수집" -- AWS Audit Manager "데이터→모델→엔드포인트 추적" -- SageMaker ML Lineage Tracking "내부 검토자 워크플로" -- A2I Private Work Team "편향: 훈련 데이터 분포 불균형" -- Selection Bias / Class Imbalance "공정성: 그룹 간 동일 양성 예측 비율" -- Demographic Parity