Zjawisko „nadmiernej dyspersji” w GLM powstaje za każdym razem, gdy używamy modelu, który ogranicza wariancję zmiennej odpowiedzi, a dane wykazują większą wariancję, niż pozwala na to ograniczenie modelu. Zdarza się to często podczas modelowania danych zliczeniowych przy użyciu Poissona GLM i można je zdiagnozować za pomocą dobrze znanych testów. Jeśli testy wykazują, że istnieją statystycznie istotne dowody nadmiernej dyspersji, zwykle uogólniamy model, stosując szerszą rodzinę rozkładów, która uwalnia parametr wariancji z ograniczenia występującego w oryginalnym modelu. W przypadku Poissona GLM powszechne jest uogólnienie na ujemny dwumianowy lub quasi-Poissona GLM.
Ta sytuacja jest w ciąży z oczywistym sprzeciwem. Po co w ogóle zaczynać od Poissona GLM? Można zacząć bezpośrednio od szerszych form dystrybucyjnych, które mają (względnie) swobodny parametr wariancji i pozwalają dopasować parametr wariancji do danych, całkowicie ignorując testy nadmiernej dyspersji. W innych sytuacjach, gdy przeprowadzamy analizę danych, prawie zawsze używamy formularzy dystrybucyjnych, które zapewniają swobodę przynajmniej przez pierwsze dwa momenty, więc po co robić tutaj wyjątek?
Moje pytanie: Czy jest jakiś dobry powód, aby zacząć od rozkładu, który naprawia wariancję (np. Rozkład Poissona), a następnie wykonać test nadmiernej dyspersji? Jak ta procedura różni się od całkowitego pominięcia tego ćwiczenia i przejścia bezpośrednio do bardziej ogólnych modeli (np. Dwumianowy ujemny, quasi-Poissona itp.)? Innymi słowy, dlaczego nie zawsze używać rozkładu z parametrem swobodnej wariancji?
źródło
Odpowiedzi:
Zasadniczo zgadzam się, że w 99% przypadków lepiej jest po prostu użyć bardziej elastycznego modelu. Powiedziawszy to, oto dwa i pół argumentu za tym, dlaczego nie możesz.
(1) Mniej elastyczny oznacza bardziej wydajne szacunki. Biorąc pod uwagę, że parametry wariancji wydają się być mniej stabilne niż parametry średnie, twoje założenie o stałej relacji średnia-wariancja może bardziej ustabilizować błędy standardowe.
(2) Sprawdzanie modelu. Współpracowałem z fizykami, którzy uważają, że różne pomiary można opisać rozkładami Poissona ze względu na fizykę teoretyczną. Jeśli odrzucimy hipotezę, która oznacza = wariancja, mamy dowody przeciwko hipotezie rozkładu Poissona. Jak wskazano w komentarzu @GordonSmyth, jeśli masz powody, by sądzić, że dany pomiar powinien być zgodny z rozkładem Poissona, jeśli masz dowody na nadmierne rozproszenie, masz dowody, że brakuje ważnych czynników.
źródło
Chociaż jest to moje własne pytanie, zamierzam również opublikować własne dwa centy jako odpowiedź, aby zwiększyć liczbę perspektyw na to pytanie. Problem polega na tym, czy rozsądnie jest początkowo dopasować rozkład danych do jednego parametru. Gdy używasz rozkładu jednoparametrowego (takiego jak Poisson GLM lub dwumianowy GLM ze stałym parametrem próbnym), wariancja nie jest parametrem wolnym, a zamiast tego jest ograniczona do funkcji średniej. Oznacza to, że odradzanie dopasowania jednoparametrowego rozkładu do danych jest niewskazane w każdej sytuacji, w której nie masz absolutnej pewności, że wariancja jest zgodna ze strukturą tego rozkładu.
Dopasowywanie rozkładów jednoparametrowych do danych jest prawie zawsze złym pomysłem: dane są często bardziej nieporządne niż sugerują to proponowane modele, a nawet jeśli istnieją teoretyczne powody, by sądzić, że dany konkretny model jednoparametrowy może uzyskać, często zdarza się, że dane faktycznie pochodzą z mieszanki tego rozkładu jednego parametru z zakresem wartości parametrów. Jest to często równoważne z szerszym modelem, takim jak rozkład dwuparametrowy, który pozwala na większą swobodę dla wariancji. Jak omówiono poniżej, dotyczy to Poissona GLM w przypadku danych zliczania.
Jak stwierdzono w pytaniu, w większości zastosowań statystyki powszechną praktyką jest stosowanie formularzy dystrybucyjnych, które pozwalają przynajmniej na swobodne zmienianie dwóch pierwszych chwil. Zapewnia to, że dopasowany model pozwala danym dyktować wnioskowaną średnią i wariancję, zamiast sztucznie ograniczać je przez model. Posiadanie tego drugiego parametru traci tylko jeden stopień swobody w modelu, co stanowi niewielką stratę w porównaniu z korzyścią wynikającą z umożliwienia oszacowania wariancji na podstawie danych. Można oczywiście rozszerzyć to rozumowanie i dodać trzeci parametr, aby umożliwić dopasowanie skośności, czwarty, aby umożliwić dopasowanie kurtozy itp.
Z kilkoma bardzo małymi wyjątkami, Poisson GLM jest złym modelem: z mojego doświadczenia, dopasowanie rozkładu Poissona do zliczania danych jest prawie zawsze złym pomysłem. W przypadku danych zliczania niezwykle często wariancja danych jest „nadmiernie rozproszona” w stosunku do rozkładu Poissona. Nawet w sytuacjach, w których teoria wskazuje na rozkład Poissona, często najlepszym modelem jest mieszanina rozkładów Poissona, w których wariancja staje się parametrem swobodnym. Rzeczywiście, w przypadku danych zliczeniowych rozkład ujemno-dwumianowy jest mieszaniną Poissona z rozkładem gamma dla parametru szybkości, więc nawet jeśli istnieją teoretyczne powody, by sądzić, że zliczenia przybywają zgodnie z procesem rozkładu Poissona, często zdarza się, że występuje „nadmierna dyspersja”, a rozkład dwumianowy ujemny pasuje znacznie lepiej.
Praktyka dopasowywania Poissona GLM do zliczania danych, a następnie przeprowadzanie testu statystycznego w celu sprawdzenia „nadmiernej dyspersji” jest anachronizmem i rzadko jest dobrą praktyką. W innych formach analizy statystycznej nie zaczynamy od rozkładu dwuparametrowego, arbitralnie wybieramy ograniczenie wariancji, a następnie testujemy to ograniczenie, aby spróbować wyeliminować parametr z rozkładu. Robiąc to w ten sposób, faktycznie tworzymy niezręczną procedurę hybrydową, składającą się z początkowego testu hipotezy stosowanego do wyboru modelu, a następnie modelu rzeczywistego (Poissona lub szerszego rozkładu). W wielu kontekstach wykazano, że tego rodzaju praktyka tworzenia modeli hybrydowych na podstawie wstępnego testu wyboru modelu prowadzi do złych modeli ogólnych.
Analogiczną sytuacją, w której zastosowano podobną metodę hybrydową, są testy T średniej różnicy. Kiedyś kursy statystyczne zalecały najpierw użycie testu Levene'a (lub nawet o wiele bardziej „bardziej praktycznych” reguł), aby sprawdzić równość wariancji między dwiema populacjami, a następnie, jeśli dane „przeszły” ten test, użyj testu T-Studenta, który zakłada równą wariancję, a jeśli dane „nie przejdą” testu, zamiast tego skorzystaj z testu T-Welcha. To jest naprawdę zła procedura (patrz np. Tutaj i tutaj)). O wiele lepiej jest po prostu użyć drugiego testu, który nie zakłada założenia wariancji, zamiast tworzyć niezręczny test złożony, który blokuje wstępny test hipotezy, a następnie wykorzystuje go do wyboru modelu.
W przypadku danych zliczania generalnie dobre wyniki początkowe uzyskuje się poprzez dopasowanie modelu dwuparametrowego, takiego jak model dwumianowy ujemny lub quasi-Poissona. (Należy zauważyć, że ten ostatni nie jest rzeczywistym rozkładem, ale nadal daje rozsądny model dwuparametrowy.) Jeśli w ogóle konieczne jest jakiekolwiek dalsze uogólnienie, zwykle jest to dodanie inflacji zerowej, w której występuje nadmierna liczba zer w danych. Ograniczenie do Poissona GLM jest sztucznym i bezsensownym wyborem modelu, a nie jest to znacznie lepsze dzięki testom na nadmierną dyspersję.
Okej, teraz są drobne wyjątki: Jedynymi prawdziwymi wyjątkami od powyższych są dwie sytuacje:
(1) Masz wyjątkowo silne teoretyczne powody, by sądzić, że założenia dla rozkładu jednego parametru są spełnione, a częścią analizy jest przetestowanie tego modelu teoretycznego na danych; lub
(2) Z jakiegoś innego (dziwnego) powodu celem twojej analizy jest przeprowadzenie testu hipotezy na temat wariancji danych, a więc naprawdę chcesz ograniczyć tę wariancję do tego hipotetycznego ograniczenia, a następnie przetestować tę hipotezę.
Te sytuacje są bardzo rzadkie. Zwykle powstają one tylko wtedy, gdy istnieje silna wiedza teoretyczna a priori na temat mechanizmu generowania danych, a celem analizy jest sprawdzenie tej leżącej u podstaw teorii. Może tak być w przypadku bardzo ograniczonego zakresu zastosowań, w których dane są generowane w ściśle kontrolowanych warunkach (np. W fizyce).
źródło