Szukasz estymatora liniowego dla średniej μ formy
μ^=∑i=1nαixi
gdzie to wagi, a to obserwacje. Celem jest znalezienie odpowiednich wartości dla wag. Niech będzie prawdziwym standardowym odchyleniem , które może, ale nie musi, pokrywać się z szacowanym odchyleniem standardowym, które prawdopodobnie masz. Załóżmy, że obserwacje są obiektywne; to znaczy, ich oczekiwania są równe średniej . W tych warunkach możemy obliczyć, że oczekiwanie jestαixiσixiμμ^
E[μ^]=∑i=1nαiE[xi]=μ∑i=1nαi
i (pod warunkiem, że są nieskorelowane) wariancja tego estymatora wynosixi
Var[μ^]=∑i=1nα2iσ2i.
W tym momencie wiele osób wymaga, aby estymator był bezstronny; to znaczy, że chcemy, aby jego oczekiwania były równe prawdziwemu środkowi. Oznacza to, że wagi muszą sumować się do jedności. Z zastrzeżeniem tego ograniczenia dokładność estymatora (mierzona średnim błędem kwadratowym) jest optymalizowana przez minimalizację wariancji. Unikalnym rozwiązaniem (łatwym do uzyskania za pomocą mnożnika Lagrange'a lub poprzez reinterpretację sytuacji geometrycznej jako problem minimalizacji odległości) jest to, że wagi muszą być proporcjonalne do . αi1/σ2i Ograniczenie sumy do jedności określa ich wartości, ustępując
μ^=∑ni=1xi/σ2i∑ni=11/σ2i
i
Var[μ^]=1∑ni=11/σ2i=1n(1n∑i=1n1σ2i)−1.
W słowach,
estymator obiektywny minimalnej wariancji średniej jest uzyskiwany przez uczynienie wag odwrotnie proporcjonalnymi do wariancji; wariancja tego estymatora jest razy średnia harmoniczna wariancji.1/n
Zwykle nie znamy prawdziwych wariancji . Wszystko, co możemy zrobić, to uczynić wagi odwrotnie proporcjonalnymi do szacowanych odchyleń (kwadraty standardowych odchyleń) i ufać, że to zadziała dobrze.σi