MLA-C01을 준비하는 분 중에는 인프라, 백엔드, 데이터 엔지니어처럼 ML을 본격적으로 공부한 적 없는 분이 많습니다. 그런데 시험 안내서의 과제 2.2는 에폭·스텝·배치 크기 같은 학습 과정의 요소, 조기 중지, 드롭아웃·weight decay·L1·L2 정규화, 랜덤 검색과 베이지안 최적화, 트리 수나 층 수 같은 하이퍼파라미터의 영향, 과적합·과소적합·치명적 망각 방지, 앙상블과 스태킹, 모델 크기 줄이기를 직접 이름으로 듭니다. 문제은행에서도 이 개념들이 핵심인 문제가 약 28문항입니다.
이 글은 수식 없이 비유와 표로 이 개념들을 정리합니다. 학습이 진행되는 방식에서 시작해 하이퍼파라미터, 과적합 진단과 정규화, 튜닝 전략, 앙상블, 사전 학습 모델의 치명적 망각, 모델 크기 줄이기 순서로 갑니다. 이 개념들을 SageMaker의 학습 작업, 분산 학습, Spot 학습에 적용하는 방법은 모델 훈련·튜닝·평가에서 다룹니다.
---
학습은 어떻게 진행되나: 에폭, 배치, 스텝, 학습률
문제집 한 권으로 시험을 준비한다고 생각해 보세요. 몇 문제씩 풀고 채점해서 틀린 부분을 고치고, 한 권을 다 풀면 처음부터 다시 풉니다. 모델 학습도 같은 구조입니다.
| 용어 | 뜻 | 문제집 비유 | |------|------|------| | 배치 크기 | 가중치를 한 번 고치기 전에 보는 샘플 수 | 채점 전에 한 번에 푸는 문제 수 | | 스텝(반복) | 배치 하나를 보고 가중치를 한 번 고치는 것 | 한 번 채점하고 고치기 | | 에폭 | 학습 데이터 전체를 한 번 다 보는 것 | 문제집 한 권을 한 바퀴 | | 학습률 | 한 번 고칠 때 얼마나 크게 고치나 | 틀린 부분을 고치는 폭 |
예를 들어 샘플 10,000개를 배치 크기 100으로 학습하면 1에폭은 100스텝이고, 10에폭이면 1,000스텝입니다.
| 상황 | 일어나는 일 | 대응 | |------|------|------| | 학습률이 너무 큼 | 손실이 들쭉날쭉하거나 오히려 커짐(수렴 실패) | 학습률을 낮춤 | | 학습률이 너무 작음 | 손실이 아주 천천히 줄어 학습이 오래 걸림 | 학습률을 높이거나 학습률 스케줄 사용 | | 배치 크기를 크게 키움 | 스텝당 처리량과 GPU 활용은 좋아지지만 같은 학습률로는 정확도가 떨어질 수 있음 | 배치 크기에 비례해 학습률도 키움(선형 스케일링) | | 에폭이 너무 많음 | 학습 데이터에 지나치게 맞춰짐 | 조기 중지 |
시험 팁: "손실이 줄지 않고 크게 진동한다"는 학습률을 낮추는 것이 정답입니다. "분산 학습으로 전체 배치 크기를 8배 키웠더니 정확도가 떨어졌다"는 학습률도 함께 키우는 것입니다.
---
파라미터와 하이퍼파라미터
파라미터는 모델이 학습하면서 스스로 찾는 값(신경망의 가중치, 트리의 분할 기준)이고, 하이퍼파라미터는 학습 전에 사람이 정하는 값(학습률, 배치 크기, 에폭, 트리 수)입니다. 시험은 하이퍼파라미터를 바꾸면 모델이 어떻게 변하는지를 묻습니다.
| 모델 | 하이퍼파라미터 | 값을 키우면 | |------|------|------| | 트리 모델(XGBoost) | 트리 수(num_round) | 더 복잡해지고 학습 시간 증가 | | 트리 모델(XGBoost) | 트리 깊이(max_depth) | 더 세밀해지지만 과적합 위험 | | 트리 모델(XGBoost) | 학습률(eta) | 한 트리의 영향이 커져 빨리 맞추지만 과적합 위험 | | 트리 모델(XGBoost) | subsample, colsample_bytree | 1보다 작게 낮출수록 무작위성이 생겨 과적합 감소 | | 트리 모델(XGBoost) | min_child_weight, gamma, alpha, lambda | 보수적으로 분할해 과적합 감소 | | 신경망 | 층 수 · 뉴런 수 | 표현력과 모델 크기 증가, 과적합 위험 | | 신경망 | 드롭아웃 비율 | 과적합 감소, 너무 크면 과소적합 |
시험 팁: "XGBoost가 학습 데이터에서는 정확한데 검증 데이터에서는 나쁘다"면 max_depth와 eta를 낮추고, subsample을 낮추고, min_child_weight · gamma · alpha · lambda를 높이는 것이 정답 후보입니다.
---
과적합과 과소적합 진단하기
기출문제의 답을 통째로 외운 학생은 같은 문제는 다 맞히지만 새 문제에서는 틀립니다(과적합). 공부를 거의 안 한 학생은 기출도 새 문제도 다 틀립니다(과소적합). 진단은 학습 데이터와 검증 데이터의 오차를 나란히 놓고 봅니다.
!학습 손실과 검증 손실 곡선으로 보는 과소적합, 적절한 학습, 과적합의 세 가지 모습
| 상태 | 학습 오차 | 검증 오차 | 해결 방법 | |------|------|------|------| | 과소적합(높은 편향) | 높음 | 높음 | 더 복잡한 모델, 특징 추가, 더 오래 학습, 정규화 완화 | | 적절 | 낮음 | 낮고 학습 오차와 비슷 | 유지 | | 과적합(높은 분산) | 낮음 | 높음(차이가 큼) | 데이터 추가 · 증강, 정규화 강화, 드롭아웃, 특징 선택, 조기 중지, 모델 단순화 |
SageMaker Debugger는 학습 중의 손실과 텐서를 보면서 overfit, overtraining, loss_not_decreasing, vanishing_gradient, exploding_tensor 같은 내장 규칙으로 문제를 감지하고, 조건에 맞으면 학습 작업을 자동으로 멈출 수 있습니다. Debugger는 2026년 7월 30일부터 신규 고객을 받지 않으며, AWS는 SageMaker AI MLflow, TensorBoard, CloudWatch의 조합을 대안으로 안내합니다. MLA-C01에서는 여전히 수렴 문제를 디버깅하는 정답으로 나옵니다.
시험 팁: "학습 정확도 99%, 검증 정확도 70%"는 과적합, "둘 다 60%"는 과소적합입니다. 과소적합에 정규화를 더 거는 보기는 오답입니다.
---
과적합을 막는 기법: 정규화와 그 밖의 방법
| 기법 | 원리 | 특징 | |------|------|------| | L1 정규화(Lasso) | 가중치 절댓값의 합에 벌점 | 일부 가중치를 정확히 0으로 만들어 특징 선택 효과 | | L2 정규화(Ridge, weight decay) | 가중치 제곱의 합에 벌점 | 모든 가중치를 작게 하지만 0으로 만들지는 않음 | | 드롭아웃 | 학습 중 신경망 뉴런 일부를 무작위로 끔 | 특정 뉴런에 의존하지 않게 함 | | 조기 중지 | 검증 성능이 더 좋아지지 않으면 학습 중단 | 과적합 방지와 학습 시간 절약을 동시에 | | 데이터 증강 | 이미지 회전 · 뒤집기, 문장 바꿔 쓰기로 데이터를 늘림 | 데이터가 적을 때 효과적 | | 특징 선택 | 중요도가 낮은 특징 제거 | 모델이 단순해지고 해석이 쉬워짐 |
시험 팁: "수백 개의 특징 중 쓸모없는 것을 자동으로 걸러 모델을 단순하게"는 L1 정규화입니다. "모든 특징을 유지하면서 가중치가 너무 커지지 않게"는 L2 정규화입니다.
---
하이퍼파라미터 튜닝 전략
SageMaker 자동 모델 튜닝(AMT)은 하이퍼파라미터 조합을 바꿔 가며 학습 작업을 여러 번 돌리고 가장 좋은 조합을 찾습니다.
| 전략 | 방식 | 언제 고르나 | |------|------|------| | 그리드 검색 | 지정한 값의 모든 조합을 시도 | 범주형 값이 몇 개뿐일 때 | | 랜덤 검색 | 범위 안에서 무작위로 고름, 이전 결과를 참고하지 않음 | 많은 작업을 동시에 병렬로 돌리고 싶을 때 | | 베이지안 최적화 | 이전 결과로 다음에 시도할 조합을 추정 | 적은 학습 작업 수로 좋은 결과가 필요할 때 | | Hyperband | 성적이 나쁜 시도를 일찍 멈추고 좋은 시도에 자원을 몰아줌 | 에폭을 반복하는 딥러닝처럼 중간 성적이 나오는 학습 |
튜닝 작업에서 조기 중지를 Auto로 켜면 가망이 없는 학습 작업이 일찍 끝나 비용이 줄어듭니다. 웜 스타트는 이전 튜닝 결과를 이어받아 처음부터 다시 탐색하지 않게 합니다.
시험 팁: "가장 적은 학습 작업 수로 최적값에 가깝게"는 베이지안 최적화, "최대한 많은 작업을 동시에"는 랜덤 검색, "나쁜 조합을 빨리 버려 딥러닝 튜닝 시간을 줄이기"는 Hyperband입니다.
---
여러 모델을 합치기: 앙상블
한 명의 전문가보다 여러 전문가의 의견을 모으면 더 정확할 때가 많습니다. 앙상블은 여러 모델의 예측을 합치는 방법입니다.
| 기법 | 방식 | 주로 줄이는 것 | 대표 예 | |------|------|------|------| | 배깅 | 데이터를 무작위로 뽑아 여러 모델을 독립적으로 학습한 뒤 평균 · 투표 | 분산(과적합) | 랜덤 포레스트 | | 부스팅 | 앞 모델이 틀린 것을 다음 모델이 순서대로 보완 | 편향(과소적합) | XGBoost, LightGBM | | 스태킹 | 서로 다른 모델들의 예측을 입력으로 받아 메타 모델이 최종 예측 | 각 모델의 약점 | XGBoost + 신경망 + 선형 모델 위에 메타 모델 |
시험 팁: "성격이 다른 여러 모델(트리, 신경망, 선형)의 장점을 결합해 정확도를 높이기"는 스태킹입니다. "약한 모델을 순서대로 쌓아 오류를 줄이기"는 부스팅입니다.
---
사전 학습 모델 고쳐 쓰기: 전이 학습과 치명적 망각
처음부터 모델을 학습하는 대신, 큰 데이터로 이미 학습된 모델을 회사의 작은 데이터로 추가 학습하는 것이 전이 학습(파인튜닝)입니다. 적은 데이터와 시간으로 높은 정확도를 얻을 수 있습니다.
문제는 치명적 망각입니다. 새 데이터로 파인튜닝하다 보면 모델이 예전에 잘하던 일을 잊어버립니다. 회사 법률 문서로 파인튜닝한 언어 모델이 일반 질문에 엉뚱하게 답하는 식입니다.
예전 데이터 섞기(리플레이): 새 데이터에 원래 작업의 데이터 일부를 함께 넣어 학습 학습률을 낮추고 에폭을 줄이기: 기존 가중치를 크게 흔들지 않음 층 동결: 앞쪽 층은 고정하고 뒤쪽 층만 학습 일부 파라미터만 학습(LoRA 같은 PEFT 기법): 원래 가중치는 그대로 두고 작은 추가 가중치만 학습 정규화: 중요한 기존 가중치가 크게 바뀌지 않도록 벌점
새 데이터가 조금씩 계속 들어올 때는 처음부터 다시 학습하지 않고 이전 모델에서 이어서 학습하는 증분 학습도 씁니다. SageMaker AI의 일부 내장 알고리즘(이미지 분류, 객체 탐지 등)이 이를 지원합니다.
---
모델 크기 줄이기
모델 크기는 파라미터 수(층 · 뉴런 · 트리의 수와 깊이), 숫자를 저장하는 데이터 타입, 입력 특징 수로 정해집니다. 엣지 기기나 저비용 추론을 위해 크기를 줄이는 방법은 다음과 같습니다.
| 기법 | 하는 일 | 대가 | |------|------|------| | 데이터 타입 바꾸기(양자화) | 32비트 실수(4바이트)를 16비트(2바이트)나 8비트 정수(1바이트)로 | 정확도가 조금 떨어질 수 있음 | | 프루닝 | 중요도가 낮은 가중치나 연결을 제거 | 너무 많이 자르면 정확도 하락 | | 지식 증류 | 큰 모델(교사)의 출력을 흉내 내도록 작은 모델(학생)을 학습 | 별도 학습 필요 | | 특징 선택 | 입력 특징 수를 줄임 | 정보 손실 가능 | | SageMaker Neo 컴파일 | 대상 하드웨어에 맞게 모델을 최적화 | 지원되는 프레임워크 · 기기 확인 필요 |
MLA-C01 안내서는 "모델을 양자화하고 정확도 영향을 분석하는 작업"을 범위 밖으로 명시하므로, 기법의 이름과 목적만 알면 충분합니다. 2026년 9월부터 영어로 시행 중인 MLA-C02에서는 모델 크기 줄이기와 SageMaker Neo 항목이 빠졌습니다.
시험 팁: "엣지 기기의 메모리에 맞게 모델을 작게, 약간의 정확도 손실은 허용"은 양자화 · 프루닝 · 증류이고, "특정 엣지 하드웨어에서 추론을 빠르게"는 SageMaker Neo입니다.
---
시나리오로 연습하기
| 상황 | 정답 | 이유 | |------|------|------| | 손실 그래프가 크게 진동하고 줄지 않음 | 학습률 낮추기 | 보폭이 너무 커서 최솟값을 지나침 | | 학습 정확도는 높고 검증 정확도는 낮음 | 정규화 강화, 데이터 증강, 조기 중지 | 과적합 | | 학습 · 검증 정확도 모두 낮음 | 더 복잡한 모델, 특징 추가 | 과소적합 | | 특징이 너무 많아 일부를 자동으로 제거하고 싶음 | L1 정규화 | 가중치를 0으로 만들어 특징 선택 | | 튜닝 예산이 적어 학습 작업 수를 최소화 | AMT 베이지안 최적화 | 이전 결과로 다음 후보 추정 | | 서로 다른 세 모델의 예측을 결합 | 스태킹 | 메타 모델이 최종 결정 | | 파인튜닝 후 원래 잘하던 작업의 성능이 떨어짐 | 예전 데이터 섞기, 낮은 학습률, 층 동결, PEFT | 치명적 망각 방지 | | 모델을 엣지 기기 메모리에 맞게 축소 | 양자화 · 프루닝 · 증류 | 크기를 줄이고 정확도 손실은 최소화 |