추정

표본 데이터로부터 모집단의 미지의 모수를 추측하는 통계적 방법론으로, 점추정과 구간추정으로 나뉜다.

추정

개요

추정(推定, estimation)은 관측된 표본(sample) 데이터를 이용하여 모집단(population)의 미지의 모수(parameter) 값을 합리적으로 추측하는 통계적 절차이다. 모집단 전체를 조사하는 전수조사가 현실적으로 불가능한 경우가 대부분이므로, 표본에서 계산한 통계량을 근거로 모평균·모분산·모비율 같은 값을 추론한다. 추정은 가설검정과 함께 추론통계학(inferential statistics)의 양대 축을 이루며, 단일 값을 제시하는 점추정과 일정한 신뢰수준下의 범위를 제시하는 구간추정으로 구분된다.

주요 내용

통계적 추정의 기본 개념

추정의 출발점은 "표본은 모집단을 대표한다"는 가정이다. 무작위 표본추출을 통해 얻은 자료로 계산된 값, 즉 추정량(estimator)은 모수의 참값에 근접할 것으로 기대된다. 예컨대 모평균 μ를 추정하기 위해 표본평균 x̄를 사용하는 것이 대표적이다. 추정량은 확률변수이며, 실제 계산된 하나의 값은 추정값(estimate)이라 하여 구분한다.

점추정과 구간추정

  • 점추정(point estimation): 모수를 하나의 값으로 추정한다. 표본평균, 표본분산, 표본비율 등이 대표적인 점추정량이다.
  • 구간추정(interval estimation): 모수가 포함될 것으로 기대되는 구간을 신뢰수준과 함께 제시한다. 95% 신뢰구간은 동일한 방식으로 반복 표집할 경우 약 95%의 구간이 참 모수를 포함한다는 빈도주의적 의미를 갖는다.

좋은 추정량의 성질

1. 불편성(unbiasedness): 추정량의 기댓값이 모수와 일치한다.

2. 일치성(consistency): 표본 크기가 커질수록 추정량이 모수에 확률수렴한다.

3. 효율성(efficiency): 다른 불편추정량보다 분산이 작아 더 정밀하다.

4. 충분성(sufficiency): 표본이 담고 있는 모수 관련 정보를 손실 없이 요약한다.

주요 추정 방법

  • 최대가능도 추정(MLE): 관측된 표본이 나올 가능도(likelihood)를 최대화하는 모수 값을 선택한다. 일치성과 점근적 정규성을 갖추어 가장 널리 쓰인다.
  • 최소제곱법(OLS): 잔차 제곱합을 최소화하며 회귀계수를 추정한다.
  • 적률법(Method of Moments): 표본적률과 이론적률을 일치시켜 모수를 구한다.
  • 베이즈 추정: 사전분포와 가능도를 결합한 사후분포를 통해 모수를 추정하며, 점추정으로 사후평균·사후중앙값을 사용한다.

응용 분야

추정은 여론조사의 지지율 예측, 임상시험에서의 치료 효과 추정, 경제지표(실업률·물가상승률) 산출, 품질관리의 공정 능력 분석, 그리고 기계학습의 파라미터 학습에 이르기까지 광범위하게 적용된다. 특히 표본 크기 설계, 결측치 처리, 편향 보정은 추정의 정확도를 좌우하는 핵심 실무 이슈이다.

최신 동향

2024~2025년 들어 추정 방법론은 다음과 같은 방향으로 진화하고 있다.

  • 베이즈 추론의 대중화: MCMC, 변분추론(variational inference) 등 계산 기법의 발전과 확률적 프로그래밍 언어(Stan, PyMC)의 보급으로 계층적 베이즈 모형이 산업 현장에 빠르게 확산되고 있다.
  • 인과추론의 부상: 단순 상관 추정을 넘어 정책·처치의 인과효과를 추정하려는 수요가 커지면서 이중차분(DID), 도구변수, 합성통제법, 타깃 최대가능도(TMLE) 같은 준모수적 추정법이 주목받는다.
  • 머신러닝과의 융합: 신경망 기반 밀도 추정, 정규화 흐름(normalizing flow), 확산모형을 이용한 분포 추정이 생성모델과 결합되고 있다.
  • 불확실성 정량화: 딥러닝 예측의 신뢰구간 제시 요구가 높아지며 컨포멀 예측(conformal prediction)이 각광받고 있다.
  • 표본 편향 문제: 온라인 데이터 기반 추정에서 대표성 확보와 가중치 조정(사후층화, 래킹)의 중요성이 재조명되고 있다.

요컨대 추정은 단순한 공식 적용을 넘어, 데이터 생성 과정에 대한 가정과 불확실성의 정직한 보고를 요구하는 학문으로 자리매김하고 있다.

관련 주제

  • [[통계학]]
  • [[가설검정]]
  • [[신뢰구간]]
  • [[최대가능도 추정]]
  • [[베이즈 정리]]
  • [[표본조사]]
  • [[회귀분석]]
  • [[인과추론]]