W artykule „Dyskusja: Czy ekolodzy powinni zostać Bayesianami?” Brian Dennis przedstawia zaskakująco zrównoważony i pozytywny pogląd na statystyki bayesowskie, kiedy wydaje się, że jego celem jest ostrzeganie ludzi przed tym. Jednak w jednym akapicie, bez żadnych cytatów ani uzasadnień, mówi:
Widzisz, Bayesianie nie mogą patrzeć na swoje pozostałości. Naruszenie zasady prawdopodobieństwa oceny wyniku według tego, jak ekstremalne jest to w modelu. Dla Bayesianina nie ma złych modeli, tylko złe wierzenia.
Dlaczego Bayesjanin nie miałby dostępu do pozostałości? Jaki byłby na to odpowiedni cytat (tj. Kogo cytuje)?
Dennis, B.
Dyskusja: Czy ekolodzy powinni zostać Bayesianami?
Ecological Applications, Ecological Society of America , 1996 , 6, 1095-1103
Odpowiedzi:
Oczywiście Bayesianie mogą spojrzeć na pozostałości! I oczywiście w analizie bayesowskiej występują złe modele. Może kilku Bayesianów w latach 70. poparło takie poglądy (i wątpię w to), ale w dzisiejszych czasach prawie nie znajdziesz żadnego Bayesian popierającego ten pogląd.
Nie czytałem tekstu, ale Bayesianie używają rzeczy takich jak czynniki Bayesa do porównywania modeli. W rzeczywistości Bayesjan może nawet obliczyć prawdopodobieństwo prawdziwości modelu i wybrać model, który jest bardziej prawdopodobny. Lub Bayesian może uśrednić dla różnych modeli, aby uzyskać lepszy model. Lub może użyć późniejszych kontroli predykcyjnych. Istnieje wiele opcji sprawdzania modelu i każdy może faworyzować takie lub inne podejście, ale stwierdzenie, że w analizie Bayesa nie ma złych modeli, nie ma sensu.
Zatem co najwyżej właściwsze byłoby stwierdzenie, że w niektórych ekstremalnych wersjach bayesianizmu (wersje ekstremalne, których, nawiasem mówiąc, prawie nikt nie używa w zastosowanych ustawieniach), nie wolno ci sprawdzać swojego modelu. Ale niż można powiedzieć, że w niektórych ekstremalnych wersjach częstości nie można również wykorzystywać danych obserwacyjnych. Ale po co marnować czas na omawianie tych głupich rzeczy, skoro możemy dyskutować, czy i kiedy, w zastosowanym otoczeniu, powinniśmy stosować metody bayesowskie, częste lub inne? To jest ważne, moim skromnym zdaniem.
Aktualizacja: OP poprosił o referencje kogoś, kto opowiada się za ekstremalną wersją Bayesa. Ponieważ nigdy nie czytałem żadnej ekstremalnej wersji Bayesa, nie mogę podać tego odniesienia. Ale zgaduję, że Savage może być takim odniesieniem. Nigdy nie czytam niczego, co napisał, więc mogę się mylić.
ps .: Pomyśl o problemie „dobrze skalibrowanego bayesowskiego” ( Dawid (1982), JASA , 77 , 379 ). Spójny subiektywistyczny bayesowski prekursor nie może zostać skalibrowany, więc nie dokonałby przeglądu swojego modelu / prognoz pomimo przytłaczających dowodów na to, że nie jest skalibrowany. Ale nie sądzę, aby ktokolwiek w praktyce mógł twierdzić, że jest tak spójny. Dlatego przegląd modelu jest ważny.
ps2 .: Podoba mi się również ten artykuł Efrona . Pełny odnośnik to: Efron, Bradley (2005). „Bayesianie, częstokroć i naukowcy”. Journal of American Statistics Association 100 (469).
źródło
Mogą patrzeć, ale nie dotykać. W końcu reszty są częścią danych, które nie niosą żadnych informacji o parametrach modelu, a ich wcześniejsze wyrażenie wyraża całą niepewność na ich temat - nie mogą zmienić swojego wcześniejszego na podstawie tego, co widzą w danych.
Załóżmy na przykład, że pasujesz do modelu Gaussa, ale zauważ resztę o wiele za dużo kurtozy. Być może twoja wcześniejsza hipoteza powinna być rozkładem t z niezerowym prawdopodobieństwem dla niskich stopni swobody, ale tak nie było - był to właściwie rozkład t z zerowym prawdopodobieństwem wszędzie, z wyjątkiem nieskończonych stopni swobody. Nic w prawdopodobieństwie nie może skutkować niezerowymi prawdopodobieństwami w obszarach gęstości tylnej, gdzie poprzednia gęstość wynosi zero. Zatem koncepcja ciągłego aktualizowania priorów w oparciu o prawdopodobieństwa z danych nie działa, gdy pierwotny uprzedni jest źle określony.
Oczywiście, jeśli wykonasz Google „sprawdzanie modelu bayesowskiego”, zobaczysz, że jest to parodia faktycznej praktyki bayesowskiej; jednak stanowi to pewną trudność dla argumentów typu logika nauki o wyższości bayesianizmu z powodów filozoficznych. Blog Andrew Gelmana jest interesujący na ten temat.
źródło