Czy stosowanie odchylenia standardowego opiera się na założeniu rozkładu normalnego?

10

Zastanawiam się, czy odchylenie standardowe zawsze było budowane przy założeniu rozkładu normalnego. Innymi słowy, jeśli próbka nie jest normalnie dystrybuowana, to czy stosowanie standardowego odchylenia należy uznać za błąd?

Dougal
źródło
3
Równomierny rozkład ma odchylenie standardowe, jak to może być „pomyłka”?

Odpowiedzi:

18

Nie. Zastosowanie odchylenia standardowego nie zakłada normalności.

Wariancja zmiennej losowej jest zdefiniowana jako nazwa nazwa nazwa . Dopóki istnieje wariancja, istnieje również odchylenie standardowe. Odchylenie standardowe jest pierwiastkiem kwadratowym wariancji.Var(X)=E[(XE[X])2]

Możesz użyć wariancji nazwa lub odchylenia standardowego za każdym razem, gdy oba istnieją. Wariancja pojawia się w niezliczonych sytuacjach.Var(X)

Istnieją specjalne twierdzenia, lematy itp. ... chociaż w szczególnym przypadku, gdy podąża za rozkładem normalnym.X

Powszechne stosowanie odchylenia standardowego, które zależy od normalności:

Jeśli podąża za rozkładem normalnym, istnieje prawdopodobieństwo około 95%, że mieści się w dwóch standardowych odchyleniach średniej.XX

To stwierdzenie jest prawdziwe, jeśli zgodny z rozkładem normalnym (i kilkoma innymi), ale ogólnie nie jest prawdziwe.X

Powszechne stosowanie wariancji, która nie zależy od normalności:

Niech będzie zmienną losową o średniej nazwa i wariancja nazwa . Określić dla a niezależnych zmiennych losowych, każdy po identyczny, jak rozkład .XE[X]=μVar(X)=σ2Xii=1,,nX

Zdefiniuj średnią próbki na podstawie obserwacji jako: n

X¯n=1ni=1nXi

Według centralnego twierdzenia granicznego zbiega się w kierunku normalnie rozmieszczonej zmiennej losowej ze średnią i wariancją . (Dokładniej zbiega się w dystrybucji do jako .)X¯nμσ2nn(X¯nμ)N(0,σ2)n

Praktyczne implikacje to, że próbka średnią dużego mogą być traktowane jako rozkład normalny zmiennej losowej którego odchylenie jest funkcją wariancji . (Recall nazwa ) I ten wynik nie wymaga, aby był normalny. (Wymaga to jednak, aby działało dobrze, jeśli jest w pewnym sensie bliższy rozkładowi normalnemu.)X¯nnσ2nXVar(X)=σ2XnX

Twierdzenie o granicy centralnej jest wszechobecnym narzędziem, które wykorzystuje wariancję i nie potrzebuje aby podążać za rozkładem normalnym.XX

Matthew Gunn
źródło
4
Nierówność Czebyszewa nie jest specyficzna dla wariancji: równie przydatna wersja istnieje dla każdego absolutnego momentu o mocy większej niż . Proponuję zatem szukać gdzie indziej z powodów, dla których SD jest ważny i (prawie) uniwersalny, takich jak wyjątkowa rola odgrywana przez wariancję w centralnym twierdzeniu o granicy. 1
whuber
@ whuber Tak, zacząłem pisać przykład CLT (teraz go dodałem). CLT jest niezwykle praktycznym powodem do dbania o wariancję.
Matthew Gunn
1
+1. Należy jednak zauważyć, że chociaż wariancja (wraz ze średnią) daje pełny opis w normalnym przypadku, w przypadku rozkładu nienormalnego może już tak nie być, a inne d3scriptory danych mogą być znacznie lepsze
kjetil b halvorsen
2

W standardowym ustawieniu IID, w odpowiednich warunkach regularności, S2 (jak również σ^ML2) jest bardzo spójnym estymatorem Var[Xi]. Wynika to bezpośrednio z silnego prawa wielkich liczb. Normalne założenie modelu nie jest potrzebne.

Zen
źródło