03_분류

개요: MNIST 데이터셋을 활용해 이진 분류기를 훈련시키고, 작업에 맞는 적절한 지표를 선택하고, 교차 검증을 사용해 평가하고, 요구 사항에 맞는 정밀도/재현율 트레이드오프를 선택하고, 여러가지 지표와 곡선을 사용해 여러 모델을 비교하고 있음.

3.0 지도학습의 주요 작업: 회귀와 분류

• 지도학습: 입력과 정답이 있는 데이터를 학습하여 새로운 데이터를 예측하는 방법이며, 주어진 레이블을 기반으로 학습하는 것이 특징이다.
• 주요 작업:
  • 회귀: 입력변수(X)를 기반으로 연속적인 출력(y)를 예측
  • 분류: 주어진 데이터를 특정 그룹(클래스)으로 분류 (범주형 값을 예측)

3.1 MNIST 데이터셋

• ML 과 DL에서 분류(Classificiation) 문제를 연습하는데 주로 사용됨

• 특징:

• 총 70,000개의 흑백 숫자 이미지

• 28*28 픽셀 크기의 손글씨 숫자 (0~9)

• 훈련 데이터 60,000개 / 테스트 데이터 10,000개

• 구조: MNIST 데이터셋의 각각의 숫자 이미지는 28x28 픽셀로 이루어져 있으며, 각 픽셀 값은 0(흰색) ~ 255(검은색) 까지의 범위를 가짐

  🔹 X (입력 데이터) : 손글씨 숫자 이미지 (28×28 픽셀 → 784개의 숫자로 변환)

  🔹 y (레이블, 정답 데이터) : 해당 이미지가 나타내는 숫자를 나타냄 (0~9 중 하나)

3.2 이진 분류기 훈련 : 5-감지기

설명: ‘5-감지기’는 ‘5’와 ‘5 아님’ 두개의 클래스를 구분할 수 있는 이진 분류기(binary classfier)이다.

1. 타깃 벡터 생성
2. 분류 모델 선택 및 훈련

• 대표적인 이진 분류 모델로는 로지스틱 회귀(Logistic Regression), SVM(Support Vector Machine), 랜덤 포레스트(Random Forest), SGDClassifier(확률적 경사 하강법) 등이 존재함
• 해당 교재에서는 SGDClassifier 분류기로 실습을 진행 (SGDClassifer란 확률적 경사 하강법을 사용하여 학습하는 선형 분류기다. SGD는 머신러닝에서 최적의 모델 파라미터(가중치, weight)를 찾기 위해 사용하는 최적화 알고리즘)