본문 바로가기

통계 이모저모/수리통계학

(44)

[수리통계학] 37. 완비통계량 [Ref] 수리통계학 (송명주, 전명식) 이번포스팅에서는 완비통계량에 대해서 배워보도록 하겠습니다. 이 역시 예제를 통해서 이해하는것이 빠릅니다. 베르누이 예로 살펴봅시다. 완비통계량은 통계량에 대한 함수가 모든 모수에 대해서 0이 될 때, 그 함수가 항상 0인 경우밖에 없을 때, 완비통계량이라고 합니다. 즉 T는 이전에 충분 통계량임을 보였으니, 완비충분 통계량이 됩니다. 이제 MVUE를 구하는 두 번째 방법을 배울 차례입니다. 레만-쉐페 정리 굉장히 중요합니다!! 베르누이 분포의 p에 대한 추정량으로써 T 가 완비충분통계량인것을 보였었죠? 하지만 T는 아직 MVUE 가 아닙니다. 왜냐하면 비편향 추정량이 아니기 때문이죠. 하지만 T/n은 레만-쉐페 정리에 의해서 유일한 MVUE가 됩니다..

[수리통계학] 36. 라오-블랙웰 (Rao - Blackwell) 정리 안녕하세요, 이번 포스팅에서는 충분 통계량과 최소분산 비편향추정량의 관계를 살펴보도록 하겠습니다. 여기서 굉장히 중요한 정리가 나옵니다. 바로 제목에서 볼 수 있듯이 라오-블랙웰 정리입니다. 라오-블랙웰 정리를 쉽게 설명해드리자면, 충분통계량이면서, 비편향추정량인 경우 최소분산 비편향추정량의 후보가 될 수 있다는 것입니다. 하지만 아직까지는 후보에 그치기 때문에, MVUE임을 확인하기 위해서는 완비통계량을 알아야합니다. 다음 포스팅에서 완비통계량을 배워보도록 하겠습니다.

[수리통계학] 35. 인수분해정리 [Ref] 수리통계학 (송명주, 전명식) 안녕하세요, 이번 포스팅에서는 저번 충분통계량 포스팅에 이어서 그와 관련된 정리인 인수분해정리에 대해서 배워보도록 하겠습니다. 지난번에 충분통계량에 대한 정의는 기억하시죠? 어떤 추정량이 충분 통계량임을 증명하는 것은 원칙대로하면, 쉽지 않지만 인수분해 정리를 사용하면 쉽게 보일 수 있습니다. 정리를 처음보는 사람입장에서는 참 난해하긴 합니다. (저도 처음 볼 때는 이게 뭔소리지 싶었어요...) 하지만 이런 정리는 예제를 보면서 이해하시는게 수월합니다. 바로 지난 포스팅에서 베르누이 분포의 추정량으로 X1 부터 X100 까지 전부 더한 값으로 사용했었는데, 그게 충분통계량임을 증명했었습니다. 그렇다면, 이번에는 인수분해 정리를 사용해서 증명해보도록 하겠습니..

[수리통계학] 34. 충분통계량 [Ref] 수리통계학 (송명주, 전명식) 안녕하세요, 이번 포스팅에서는 최소분산 비편향추정량 (MVUE)를 구하는 두 번째 방법을 배우기 전에 알아두어야 할 충분 통계량 개념에 대해서 배워보도록 하겠습니다. "우선 과연 충분 통계량이란 무엇인가??" 가 먼저 선행되야겠지요? 예를 들어서 설명드리면 쉽게 이해할 수 있을겁니다. 확률 변수 X가 모수가 p인 베르누이 분포를 따른다고 합시다. 이 때, 우리는 100개의 Sample을 X1 ~ X100을 가지고 있습니다. X1 ~ X100을 모두 사용해서 모수 p를 예측할 수 있지만, 단지 X1부터 X100까지 전부 더한 값 하나로도 모수 p를 예측할 수 있습니다. 과연 두 방법중에서 뭐가 더 효율적이면서 좋은 추정량일까요?? 바로 후자 입니다. 100개의 ..

[수리통계학] 33. 최소분산 비편향추정량 (MVUE) [Ref] 수리통계학 (송명주, 전명식) 이번 포스팅에서는 수리통계학에서 제일 어렵기도 하면서도, 시험에 가장 많이 출제되는 부분을 배우도록 하겠습니다. 지난 포스팅에서 좋은 추정량의 조건 2가지에 대해서 배웠었는데 기억하시나요? 첫번째는 바로 편향이 0인 비편향 추정량이고, 두번째는 추정량의 분산이 작을수록 더 좋았습니다. 이 두가지를 가장 최선으로 만족하는 추정량이, 최고의 추정량이라 말할 수 있겠죠? 그러한 추정량이 바로 오늘 배울 최소분산 비편향추정량 (Minimum Variance Unbiased Estimator), MVUE 입니다. 우선 정의부터 살펴보고 가실까요? 2번째 조건이 살짝 헤깔릴수도 있는데, 쉽게 말해서 최소분산을 가진다는 의미입니다. 최소분산 비편향추정량이 가장 좋은..

[수리통계학] 32. 추정의 기준 [Ref] 수리통계학 (송명주, 전명식) 안녕하세요, 오랜만입니다. 한 동안 바빠서, 수리통계학 포스팅을 잠깐 쉬었는데요... 다시 시작해보도록 하겠습니다. (열심히 할게요~) 이번 포스팅에서는 추정의 기준에 대해서 다루어보려고 합니다. 실제로, 추정량이 항상 추정대상인 g(theta) 랑 같은 값을 가진다면 가장 좋겠지만, 추정량은 확률변수이기 때문에, 표본을 어떻게 뽑는가에 따라서 달라지게 됩니다. 따라서 항상 가장 좋은 값을 가지지 못하기 때문에, 이를 평가하기 위한 기준이 필요합니다. 가장 많이 사용하는 지표로써는 MAE (Mean Absolute Error) 와 MSE (Mean Squared Error)가 있습니다. 물론, 많이 들어보셨을수도 있고, 이름에서 유추해볼 수 있습니다만, 자..

[수리통계학] 30. 최대가능도 추정법 [Ref] 수리통계학 (송명주, 전명식) 안녕하세요, 이번 포스팅에서는 최대가능도 추정법 (Maximum likehood estimation) 에 대해서 배워보도록 하겠습니다. 이 때 가능도는 우도라고도 합니다. 제가 생각하기에 수리통계학에서 가장 중요한 파트가 어디라고 질문을 받는다면 저는 망설임이 1도없이 최대가능도 추정법이라고 말할것입니다. (그만큼 중요하단뜻!!) 우선 가능도에 대한 정의를 알아봅시다. 가능도는 '실제로 관측된' 자료가 얻어질 확률을 나타냅니다. 예를 들어, 동전던지기를 100번 하였는데, 앞면이 56번 나왔다고 가정해봅시다. 이 경우, 앞면이 나올 확률 p를 어느 정도라고 예측해야 가장 타당할까요?? p likehood 0.48 0.022 0.50 0.039 0.52 0.059 ..

[수리통계학] 29. 적률추정법 [Ref] 수리통계학 (송명주, 전명식) 안녕하세요, 이번 포스팅부터 수리통계학의 꽃이라고 할 수 있는 추정법을 배워보도록 하겠습니다. 우선 적률추정법 (Method of moments)에 대해서 배워보도록 하겠습니다. 저희는 19번째 포스팅에서 적률에 대해서 배웠었습니다. 기억하시겠죠?? (기억나셔야 합니다 ㅠㅠ) 2019/05/26 - [통계 이모저모/수리통계학] - [수리통계학] 19. 적률 쉽게 예제를 통해서 알아보도록 하겠습니다.

이전 1 2 3 4 5 6 다음

티스토리툴바