츄잉~ chuing~

확률 밀도 함수 (Probability Density Function, PDF)

확률 변수 X가 임의의 집합 B에 포함되는 사건의 확률을 다음과 같이 어떤 음이 아닌 함수 f의 적분으로 주어진다고 하면, 이 때 f(x)를 확률밀도함수라 한다.

$Pleft(Xin Bright) = int _B^{ }fleft(xright)dx$P(X∈B) = ∫Bf(x)dx

좌변은 X가 B에 포함되는 사건이 일어날 확률을 의미한다. 우변은 f를 B위에서 적분한 값이다.

아래에서 이 식을 그래프로 표현해보았다.

누적 분포 함수(Cumulative Distribution Function, CDF)

누적 분포 함수는 확률변수가 특정 값보다 작거나 같을 확률을 나타내는 함수이다.

특정 값을 a라 하면 누적분포함수 F(a)는,

$Fleft(aright) = Pleft(Xle aright) = int _{-infty }^afleft(xright)dx$F(a) = P(X≤a) = ∫a−∞f(x)dx

우변은 확률밀도함수 f를 a까지 적분한 값으로, a보다 작거나 같을 확률을 의미하게되고, F(a)와 같은 값을 가지게 된다. 이것도 아래에서 그래프로 표현해보았다.

확률밀도함수와 누적분포함수는 미분과 적분의 관계를 갖는다. 확률밀도함수를 a까지 적분하면 누적분포함수를 얻을 수 있고, 누적분포함수를 미분하면 확률밀도함수를 얻을 수 있다.

이렇게 수식으로만 보면 뭔 지는 알 것 같긴 하지만 딱 와 닿지가 않아서 그림을 그려보았더니 이해하기가 좋았다.

위의 그림에서 f(x)가 확률 밀도 함수이고, 가로축은 실수 R이다. R의 임의의 부분집합 B에서 f를 적분한 값이 빗금칠한 부분의 면적의 넓이가 되고, 그 면적의 넓이는 X가 B에 포함되는 사건이 일어날 확률과 같게 된다.

위의 그림은 확률밀도함수와 그에 따른 누적분포함수의 대략적인 모습을 그려본 것이다. 특정한 지점 a에서의 누적분포함수의 값 F(a)는 X가 a보다 작을 확률, 즉 확률밀도함수 f를 음의 무한대부터 a까지 적분한 값과 같게된다.

확률분포함수를 전체 범위에서 적분하면 1이 되므로, 누적분포함수는 양의 무한대로 갈수록 1로 수렴하게된다.

조금 더 확실하게 이해하기 위해서 시계바늘의 예시에 대해서 그림을 그려보았다.

위의 그림에서 X는 '시계 바늘을 임의로 돌리다가 멈추었을 때 시계바늘의 위치'로 정한 것이다.

(실제 시계에는 0이 없어서 조금 애매하지만, 12보다 아주 조금 큰 쪽을 0이라 생각하기로 하자..)

시계 바늘이 시계 전체에서 어디에 위치할 지는 어디에서든지 확률이 같을 것이므로 확률밀도함수는 상수함수일 것이다. 그래서 일단 가로로 직선 형태인 그래프를 그리고, f(x) = c 라 할 수 있다.

시계 바늘이 3과 4사이에 위치할 확률이 1/12라는 건 어렵지 않게 알 수 있다. 그러므로 확률밀도함수를 3~4에서 적분한 값은 1/12이 되어야 할 것이고, 위의 그림에서 빗금친 부분의 넓이가 1/12가 되어야 한다. 그러므로 c = 1/12이 되고,

확률밀도함수는 f(x) = 1/12이 된다.

여기서 전체 범위는 0~12이므로 전체 범위에 대해 적분하면 1이 된다는 사실도 확인할 수 있다.

두번째 그림은 누적분포함수를 그린 것이다. 아주 간단한 경우라서 누적분포함수의 정의(특정 값보다 작거나 같을 확률을 나타내는 함수)만을 이용해서 누적분포함수를 알 수 있다.

시계바늘의 위치가 12이하일 확률은 1,

6이하일 확률은 0.5,

3이하일 확률은 0.25,

1이하일 확률은 1/12,

이런식으로 생각해보면 누적분포함수는 기울기가 1/12인 직선으로, F(a) = (1/12)a 라는 것을 알 수 있다.

이 예시에서 누적분포함수와 확률밀도함수가 미분과 적분 관계를 갖는다는 사실도 확인 할 수 있다.

누적분포함수 F(a) = (1/12)a 를 미분하면 확률밀도함수 f(x) = 1/12 를 얻을 수 있고,

확률밀도함수 f(x) = 1/12를 a까지 적분하면 누적분포함수 F(a) = (1/12)a를 얻을 수 있다.

확률밀도함수하고 누적분포함수는 어디에 쓰이나요?