점 추정 (Point Estimate)

미지의 분포에 대하여 모수에 대한 추정치를 이에 대응하는 통계량(값)으로 구하는 것

 

좋은 추정량의 기준

Unbiasedness, Efficiency, Consistency, Sufficiency

 

불편성

단일 값을 계산하는 것이기 때문에 표본 통계량의 기댓값이 모수의 실제값과 같을 때 추정량이 불편성을 가진다고 한다.

즉, (통계량의 기댓값) = (대응되는 모수값) 인 경우에 해당된다.

 

효율성

추정량 중에서 최소의 분산을 가지는 추정량이 더 편차가 작기 때문에 좋다고 할 수 있다.

 

일치성

표본의 크기가 늘어날 수록 표본 통계량이 대응되는 모수를 더 근접하게 추정할 수 있다.

 

충분성

표본으로 부터 얻은 추정량이 모수에 대한 정보를 충분히 제공하는 경우 이를 충분추정량이라 부른다.

 

점 추정의 방법

점 추정의 방법에는 적률방법(Moment Method)과 최대우도추정법(Maximum Likelihood Function Mehtod)이 있다.

Moment Method

1차 Moment는 확률변수 X의 기댓값 즉 평균과 정의가 같고, 분산은 2차 Moment 계산으로 X^2의 기댓값을 얻은 뒤 1차 Moment값을 활용해 구할 수 있다.

MLE (Maximum Likelihood Estimation)

Likelihood(우도,가능도)의 정의 -wikipedia-

Log-Likelihood를 편의상 LL 이라고 나타낸 경우에 ex1)의 경우는 베르누이 시행의 표본이 주어졌을 때 가장 가능도가 높은(Log-Likelihood의 값이 최대가 되는) 성공확률 모수 p를 찾기 위해 p로 미분한 결과가 0이 되는 극대점에서의 p값을 구하게 된다.

ex2)도 마찬가지로 Log-Likelihood 개형에서의 극대점의 λ 값을 미분을 통해 구할 수 있다.

 

하지만 이러한 점추정 방식의 단점은 추정값 자체가 목표값을 정확하게 추정하고 있다고 주장하기 어려운 부분이 있고,

목표값을 포함할 가능성이 높은 구간을 제시하는 구간추정의 개념을 도입할 수 있다.