3 Inseok Kong Schedule

Q-76. Decision Theory란?

결정 이론은 불확실한 상황에서 확률과 손실을 결합해 기대 손실이 가장 작은 행동을 고르는 체계이다.

면접 답변

결정 이론은 불확실성 아래에서 어떤 행동을 할지 정하는 체계로, 각 결과의 확률과 손실을 결합해 기대 손실이 가장 작은 행동을 고릅니다. 모델이 추정하는 확률만으로는 행동이 정해지지 않고, 틀렸을 때의 비용이 함께 있어야 하기 때문입니다. 예를 들어 암일 확률이 20%인 환자를 생각해 보겠습니다. 정상을 암으로 판단하는 비용이 1이고 암을 놓치는 비용이 9라면, 양성 판정의 기대 손실은 0.8, 음성 판정의 기대 손실은 1.8이므로 확률이 절반에 못 미쳐도 양성으로 판정하는 것이 맞습니다. 이때 임계값은 0.5가 아니라 0.1이 됩니다. 머신러닝에서 확률을 추정하는 추론 단계와 행동을 정하는 결정 단계를 나누어 보는 이유가 여기에 있습니다. 그래서 비용이 바뀌면 재학습 없이 임계값만 조정할 수 있습니다.

자세한 설명

베이즈 결정 규칙

입력 \(\mathbf{x}\)에서 행동 \(a\)를 고를 때, 참 레이블 \(y\)에 대한 손실을 \(L(a, y)\)라 한다. 조건부 위험(conditional risk)은 다음과 같다.

\[R(a \mid \mathbf{x}) = \mathbb{E}_{y \sim p(y \mid \mathbf{x})}\left[L(a, y)\right] = \sum_{y} L(a, y)\, p(y \mid \mathbf{x})\]

입력마다 이를 최소화하는 \(a^*(\mathbf{x}) = \arg\min_a R(a \mid \mathbf{x})\)를 고르면 전체 기대 손실도 최소가 된다. 이 규칙을 베이즈 결정 규칙이라 하고, 그 최소 손실을 베이즈 위험(Bayes risk)이라 한다. 베이즈 위험은 어떤 모델도 평균적으로 넘을 수 없는 하한이다.

비용과 임계값

이진 분류에서 위양성 비용을 \(C_{FP}\), 위음성 비용을 \(C_{FN}\), 정답의 비용을 0이라 하자. \(p = p(y = 1 \mid \mathbf{x})\)일 때 양성 판정의 기대 손실은 \((1 - p)C_{FP}\), 음성 판정의 기대 손실은 \(pC_{FN}\)이므로 다음 경우 양성으로 판정한다.

\[p > \frac{C_{FP}}{C_{FP} + C_{FN}}\]

두 비용이 같으면 임계값이 0.5이고, 정확도를 최대화하는 분류가 된다. \(C_{FP} = 1\), \(C_{FN} = 9\)이면 임계값은 \(1/10 = 0.1\)이다.

손실이 달라지면 최적 예측도 달라진다

회귀에서 사후 분포 \(p(y \mid \mathbf{x})\)가 같아도 점예측의 정답은 손실에 따라 다르다.

손실 최적 점예측
제곱 손실 \((y - a)^2\) 사후 평균
절대 손실 \(\lvert y - a \rvert\) 사후 중앙값
0-1 손실 (이산) 사후 최빈값, 즉 MAP

예를 들어 동일 확률의 결과 \(\{1, 2, 3, 4, 100\}\)에서 제곱 손실의 최적값은 평균 22, 절대 손실의 최적값은 중앙값 3이다. 어느 쪽을 예측할지는 분포만으로 정할 수 없고, 어떤 손실이 실제 비용에 맞는지에 달렸다.

세 가지 구현 방식과 거부 옵션

  • 생성 모델: \(p(\mathbf{x} \mid y)\), \(p(y)\)에서 사후 확률을 구한 뒤 결정한다.
  • 판별 모델: \(p(y \mid \mathbf{x})\)를 직접 추정한 뒤 결정한다.
  • 판별 함수: 확률 없이 결정을 직접 학습한다. 간단하지만 비용이나 클래스 비율이 바뀌면 재학습이 필요하다. Q-86에서 다룬다.

불확실한 샘플은 결정을 미루고 사람에게 넘기는 거부 옵션(reject option)도 같은 틀로 설명된다. 거부 비용이 \(C_r\)이면 어떤 예측의 기대 손실도 \(C_r\)보다 클 때 거부한다.

이 식들은 추정한 확률이 실제와 맞다고 가정한다. 확률이 보정되어 있지 않으면 위 임계값이 최적이 아니므로, 확률 보정(calibration)이나 검증 세트에서의 임계값 탐색이 함께 필요하다. 넓은 의미의 통계적 결정 이론은 사전 분포 없이 최악의 위험을 비교하는 미니맥스(minimax) 기준 등도 포함한다.

관련 개념

  • 혼동 행렬: 네 칸에 각각 비용을 곱하면 기대 비용이 된다. Q-17을 참고한다.
  • ROC 곡선: 위 임계값에 해당하는 운영점을 곡선에서 고른다. Q-38에서 다룬다.
  • 사후 확률: 결정 규칙의 입력이다. Q-39를 참고한다.
  • 제1종, 제2종 오류: 가설 검정은 두 오류의 비용을 다루는 결정 문제로 볼 수 있다. Q-78에서 이어진다.

꼬리 질문

Q. 학습 손실과 결정 손실이 같아야 하나요? 아닙니다. 보정된 확률을 학습한 뒤 결정 단계에서 실제 비용을 적용하는 것이 일반적입니다. 교차 엔트로피로 학습해도 임계값은 업무 비용으로 정할 수 있습니다.

Q. 클래스 비율이 운영 환경에서 달라지면 어떻게 하나요? \(p(\mathbf{x} \mid y)\)가 그대로라는 가정(사전 확률 이동) 아래에서는 사후 오즈(odds)에 새 비율과 학습 비율의 오즈 비를 곱해 보정할 수 있습니다. 재학습 없이 결정만 조정합니다.

Q. 베이즈 위험이 0이 아닌 이유는 무엇인가요? 입력이 같아도 레이블이 확률적으로 다를 수 있기 때문입니다. 이는 어떤 모델로도 줄일 수 없는 오차이며, 줄이려면 더 나은 특징을 얻어야 합니다.