면접 답변
분류 알고리즘은 스팸 필터링, 신용 평가, 이상 거래 탐지, 질병 진단 보조, 고객 이탈 예측, 이미지와 문서 분류에 널리 사용됩니다. 이 문제들의 공통점은 입력을 미리 정해진 범주 중 하나 이상으로 나누고, 그 범주를 라벨로 학습할 수 있다는 것입니다. 알고리즘은 데이터 형태와 요구 사항에 따라 달라집니다. 표 형태의 데이터에는 로지스틱 회귀나 그래디언트 부스팅을, 이미지나 긴 문장 같은 비정형 데이터에는 신경망을 많이 고려합니다. 예를 들어 이상 거래 탐지에서는 거래 금액, 시간, 위치 같은 특징으로 정상과 사기를 구분합니다. 이때 사기 사례가 매우 드물기 때문에 accuracy보다 precision과 recall을 함께 보고, 비즈니스 비용에 맞춰 임계값을 정해야 합니다.
자세한 설명
사용 예시
아래 표의 알고리즘은 흔히 출발점으로 삼는 선택지이며, 유일한 정답은 아니다.
| 분야 | 입력 | 출력 | 자주 고려하는 알고리즘 | 주의점 |
|---|---|---|---|---|
| 스팸 필터링 | 이메일 텍스트, 발신 정보 | 스팸, 정상 | Naive Bayes, 로지스틱 회귀, Transformer | 정상 메일을 스팸으로 분류하는 비용 |
| 신용 평가 | 소득, 상환 이력 | 부도 위험 여부 | 로지스틱 회귀, 그래디언트 부스팅 | 설명 가능성, 공정성, 규제 |
| 이상 거래 탐지 | 금액, 시간, 위치, 패턴 | 정상, 사기 | 그래디언트 부스팅, 신경망 | 심한 클래스 불균형, 패턴 변화 |
| 질병 진단 보조 | 의료 영상, 검사 수치 | 질환 유무, 종류 | CNN, Vision Transformer, 그래디언트 부스팅 | 놓친 환자의 비용, 임상 검증 |
| 고객 이탈 예측 | 이용 기록, 결제 내역 | 이탈 여부 | 로지스틱 회귀, 랜덤 포레스트, 그래디언트 부스팅 | 라벨 정의 기간, 시간 순서 누수 |
| 제조 불량 검사 | 제품 이미지 | 양품, 불량 유형 | CNN, Vision Transformer | 희귀 불량 데이터 부족 |
| 이미지 분류 | 픽셀 | 객체 범주 | CNN, Vision Transformer | 데이터 증강, 도메인 변화 |
| 감성, 문서 분류 | 텍스트 | 긍정/부정, 주제 | 선형 모델, Transformer | 라벨 품질, 언어 변화 |
출력 형태에 따른 분류
| 유형 | 의미 | 예시 |
|---|---|---|
| 이진 분류(binary) | 두 범주 중 하나 | 스팸 여부 |
| 다중 클래스(multi-class) | 여러 범주 중 정확히 하나 | 손글씨 숫자 0-9 |
| 다중 라벨(multi-label) | 여러 범주를 동시에 가질 수 있음 | 기사 하나에 “경제”와 “정치” 태그 |
유형에 따라 출력층과 손실도 달라진다. 신경망이라면 이진 분류는 sigmoid와 binary cross-entropy, 다중 클래스는 softmax와 cross-entropy를 쓰고, 다중 라벨은 라벨마다 독립된 sigmoid를 쓰는 것이 일반적이다.
분류기의 출력은 그대로 결정이 아니다
많은 분류기는 점수나 확률을 내고, 임계값을 적용해야 범주가 된다. 스팸 필터는 정상 메일을 놓치지 않도록 임계값을 높이고, 암 선별 검사는 환자를 놓치지 않도록 낮출 수 있다. 같은 모델이라도 응용의 오류 비용에 따라 운영 지점이 달라진다.
관련 개념
- 알고리즘 선택: 데이터 크기, 특징 형태, 해석 필요성, 지연 시간 제약을 함께 본다. 구체적인 절차는 Q-11에 정리한다.
- 로지스틱 회귀: 표 형태 분류의 대표적인 기준 모델로, 계수를 해석하기 쉽다. Machine Learning 3에서 유도한다.
- Naive Bayes: 특징의 조건부 독립을 가정하는 확률 모델로, 희소한 텍스트에서 간단한 기준 모델이 된다. Machine Learning 6과 Q-37에서 볼 수 있다.
- 클래스 불균형(class imbalance): 사기 탐지처럼 양성이 드물면 accuracy가 높아도 쓸모없는 모델일 수 있다. Q-27의 F1-score와 Q-31을 참고한다.
- 분류와 회귀: 출력이 범주이면 분류, 연속값이면 회귀이다. 둘의 경계는 Q-18에서 다룬다.
꼬리 질문
Q. 사기 거래 탐지에 라벨이 거의 없으면 어떻게 하나요? Isolation Forest 같은 이상 탐지나 준지도 학습을 먼저 고려합니다. 확인된 사례가 쌓이면 지도 학습 분류기를 함께 쓸 수 있습니다.
Q. 표 데이터에 왜 딥러닝보다 트리 앙상블을 먼저 시도하나요? 전처리가 비교적 간단하고, 범주와 수치가 섞인 중소 규모 데이터에서 좋은 기준 성능을 빠르게 얻는 경우가 많기 때문입니다. 다만 항상 우세한 것은 아니므로 같은 검증 절차로 비교합니다.
Q. 다중 라벨 문제에 softmax를 쓰면 어떤 문제가 있나요? softmax는 클래스 확률의 합을 1로 묶어 클래스끼리 경쟁하게 만듭니다. 여러 라벨이 동시에 참일 수 있는 문제에는 라벨별 sigmoid가 자연스럽습니다.