확률(Probability)과 우도(Likelihood)

Probability

우리가 일반적으로 많이 사용하는 개념으로, 사건이 일어날 가능성을 수치적으로 표현하는 것을 의미합니다. 사건이 일어날 가능성을 0~1 사이의 값으로 표현하는데, 사건이 일어날 확률이 없다면 0의 값을, 사건이 무조건 일어난다면 1의 값을 가집니다.

 

 

확률은 일반적으로, 우리가 어떤 사건이 놓여져 있는 확률 분포를 안다고 가정할 때, 그 확률 분포 안에서 특정한 사건이 일어날 가능성을 측정하는 데에 사용합니다. 예를 들어, 1~6까지 숫자가 나올 확률이 동일한 주사위를 던졌을 때, 2가 나올 확률은 1/6입니다.

 

 

 

Likelihood

확률(Probability)은 사건이 놓여져 있는 확률 분포를 알아야 한다는 전제를 하고 있습니다. 하지만, 종종, 확률 분포는 모르지만, 관측 값 몇가지만 알 수 있는 경우도 있습니다. 이 경우에는 확률과는 반대로, 주어진 관측 값들을 활용하여, 해당 사건이 어떤 확률 분포를 따를 지를 수치적으로 표현한 것이 우도(Likelihood)입니다.

 

 

즉, 최근에 머신러닝, 딥러닝 등의 인공지능 기술들의 역할에서 자주 사용됩니다. 머신러닝, 딥러닝도 위와 같이 관측된 샘플들을 가지고, 해당 사건이 어떤 확률 분포를 가지고 있는지에 대해서 예측을 한 이후에, 새로운 샘플 값이 입력으로 들어왔을 때, 해당 확률 분포를 따르는 값을 출력하는 방식이라고 볼 수 있습니다. 이 때 우도(Likelihood)를 사용하는 가장 일반적인 기법은 최대 우도 추정(Maximum Likelihood) 방식입니다.