Testowanie różnicy w AIC dwóch nie zagnieżdżonych modeli

Cały sens AIC lub innego kryterium informacyjnego polega na tym, że im mniej, tym lepiej. Więc jeśli mam dwa modele M1: y = a0 + XA + e i M2: y = b0 + ZB + u, a jeśli AIC pierwszego (A1) jest mniejszy niż drugiego (A2), to M1 ma lepsze dopasowanie z punktu widzenia teorii informacji. Ale czy istnieje jakiś punkt odniesienia dla różnicy A1-A2? Ile mniej znaczy mniej? Innymi słowy, czy istnieje test na (A1-A2) inny niż tylko gałki ocznej?

Edycja: Peter / Dmitrij ... Dzięki za odpowiedź. W rzeczywistości jest to przypadek, w którym moja wiedza merytoryczna jest sprzeczna z moją wiedzą statystyczną. Zasadniczo problemem nie jest wybór między dwoma modelami, ale sprawdzenie, czy dwie zmienne, które w dużej mierze są równoważne, dodają równoważne ilości informacji (w rzeczywistości jedna zmienna w pierwszym modelu i wektor w drugim. Pomyśl o przypadku kilka zmiennych w stosunku do ich indeksu). Jak zauważył Dmitrij, najlepszym zakładem wydaje się być test Coxa. Ale czy istnieje sposób na przetestowanie różnicy między zawartością informacyjną dwóch modeli?

Czy pytanie o ciekawość oznacza, że ​​moja odpowiedź tutaj nie odpowiada ? Jeśli nie...

Dalsze dochodzenie w tej skomplikowanej kwestii wykazała, że nie istnieją powszechnie stosowanym zasada-of-kciuk, które stwierdza dwa modele są nie do odróżnienia od I C kryterium, jeśli różnica | A I C 1 - A I C 2 | < 2 . To samo, co faktycznie przeczytasz w artykule Wikipedii na temat A I C (uwaga, że ​​link można kliknąć!). Tylko dla tych, którzy nie klikają linków:$AIC$$|AIC_1 - AIC_2| < 2$$AIC$

szacuje względne poparcie dla modelu. Aby zastosować to w praktyce, zaczynamy od zestawu modeli kandydujących, a następnie znajdujemy odpowiadające imwartości A I C modeli. Następnie określić minimalną I C wartość. Wyboru modelu można następnie dokonać w następujący sposób.$AIC$$AIC$$AIC$

Z grubsza ogólną zasadą jest, że modele posiadające w granicach minimum mają znaczne wsparcie i powinny być brane pod uwagę przy dokonywaniu wniosków. Modele posiadające w granicach około minimum mają znacznie mniejsze wsparcie, podczas gdy modele z powyżej minimum nie mają zasadniczo żadnego wsparcia i mogą zostać pominięte w dalszych rozważaniach lub przynajmniej nie wyjaśnić pewnych istotnych różnic strukturalnych w dane.$AIC$A I C 4 - 7 A I C > $1–2$$AIC$$4–7$$AIC > 10$

Bardziej ogólne podejście jest następujące ...

Oznacz wartości modeli kandydujących według , . Niech oznacza minimum tych wartości. Następnie można interpretować jako względne prawdopodobieństwo, że ty model minimalizuje (oczekiwaną szacowaną) utratę informacji.A I C 1 A I C 2 , A I C 3 , … , A I C R A I C m i n e ( A I C m i n - A I C i ) / 2$AIC$$AIC1$$AIC2, AIC3, \ldots, AICR$$AICmin$$e^{(AICmin−AICi)/2}$$i$

Załóżmy na przykład, że w zestawie kandydackim znajdowały się trzy modele o wartościach , i . Następnie drugi model to razy bardziej prawdopodobny niż pierwszy model w celu zminimalizowania utraty informacji, a trzeci model to razy tak prawdopodobne, jak pierwszy model minimalizujący utratę informacji. W takim przypadku możemy pominąć trzeci model i rozważyć średnią ważoną pierwszych dwóch modeli, odpowiednio o wagach i . Wnioskowanie statystyczne byłoby wówczas oparte na ważonym multimodelu.100 102 110 E ( 100 - 102 ) / 2 = 0,368 E ( 100 - 110 ) / 2 = 0,007 1 $AIC$$100$$102$$110$$e^{(100−102)/2} = 0.368$$e^{(100−110)/2} = 0.007$$1$$0.368$

Ładne wyjaśnienie i przydatne sugestie, moim zdaniem. Po prostu nie bój się czytać tego, co można kliknąć!

W uzupełnieniu , nuta po raz kolejny, jest mniej korzystne dla zbiorów danych na dużą skalę. Oprócz przydatne może być zastosowanie wersji kryterium (możesz użyć tego kodu lub użyć wzoru , gdzie to liczba szacowanych parametrów). Ogólna zasada będzie jednak taka sama. B I C A I C A I C c A I C c = A I C + 2 p ( p + 1 $AIC$$BIC$$AIC$$AICc$R $AICc = AIC + \frac{2p(p+1)}{n-p-1}$$p$

Myślę, że może to być próba zdobycia tego, czego tak naprawdę nie chcesz.

Wybór modelu nie jest nauką. Z wyjątkiem rzadkich okoliczności nie ma jednego idealnego modelu ani nawet jednego „prawdziwego” modelu; rzadko jest nawet jeden „najlepszy” model. Dyskusje na temat AIC vs. AICc vs. BIC vs. SBC vs. cokolwiek, co pozostawia mnie nieco bezradnego. Myślę, że chodzi o to, aby uzyskać DOBRE modele. Następnie wybierasz spośród nich na podstawie połączenia merytorycznej wiedzy specjalistycznej i pomysłów statystycznych. Jeśli nie masz wiedzy merytorycznej (rzadko tak jest; znacznie rzadziej niż większość ludzi przypuszcza), wybierz najniższy AIC (lub AICc lub cokolwiek innego). Ale zwykle masz trochę wiedzy - inaczej dlaczego badasz te konkretne zmienne?