Czy musisz przestrzegać zasady prawdopodobieństwa bycia Bayesianem?

Powstaje pytanie: kiedy (jeśli w ogóle) podejście częstokroć jest znacznie lepsze niż bayesowskie?

Jak napisałem w moim rozwiązaniu tego pytania, moim zdaniem, jeśli jesteś częstym gościem, nie musisz wierzyć / stosować się do zasady prawdopodobieństwa, ponieważ często metody stosowane przez osoby często odwiedzające ją naruszają. Jednak i to zazwyczaj przy założeniu odpowiednich priorytetów, metody bayesowskie nigdy nie naruszają zasady prawdopodobieństwa.

A zatem, powiedzmy, że jesteś Bayesianinem, czy to potwierdza przekonanie lub zgodę na zasadę prawdopodobieństwa, czy też argument, że bycie Bayesianem ma po prostu niezłą konsekwencję, że zasada prawdopodobieństwa nie zostanie naruszona?

bayesian likelihood likelihood-principle RustyStatistician
źródło

Nie - patrz wcześniej Jeffreys. Metody bayesowskie mogą naruszać zasadę (silnego) prawdopodobieństwa.

Scortchi - Przywróć Monikę

Tak, rzeczywiście, priory Jeffreysa, a także rozwiązania, które wykorzystują dane kilka razy, podobnie jak prognozy późniejsze, naruszają zasadę prawdopodobieństwa, ale nadal można je uznać za bayesowskie ...

Xi'an

Niekoniecznie. I nie jestem pewien, jaką to robi różnicę.

Scortchi - Przywróć Monikę

Porównaj te dla dwumianu i ujemnego dwumianu.

Scortchi - Przywróć Monikę

xianblog.wordpress.com/2014/11/13/…

Scortchi - Przywróć Monikę

Odpowiedzi:

Wykorzystując twierdzenie Bayesa do obliczenia prawdopodobieństw późniejszych, które stanowią wnioskowanie o parametrach modelu, zasada niskiego prawdopodobieństwa jest automatycznie przestrzegana:

p o s t mi r ja o r \propto p r ja o r \times l ja k mi l ja h o o re

$\mathrm{posterior} \propto \mathrm{prior} \times \mathrm{likelihood}$

Niemniej jednak w niektórych obiektywnych podejściach bayesowskich schemat pobierania próbek określa wybór przeora, motywacją jest to, że nieinformacyjny przełożony powinien zmaksymalizować rozbieżność między rozkładem wcześniejszym a późniejszym - pozwalając, aby dane miały jak największy wpływ. W ten sposób naruszają zasadę silnego prawdopodobieństwa.

$\pi$

\begin{aligned} {Par}_{N. b} (π) & \propto π^{- 1} (1 - π)^{- \frac{1}{2)}} \\ {Par}_{b ja n} (π) & \propto π^{- \frac{1}{2)}} (1 - π)^{- \frac{1}{2)}} \end{aligned}

$\def\Pr{\mathop{\rm Pr}\nolimits} \begin{align} \Pr_\mathrm{NB}(\pi) &\propto \pi^{-1} (1-\pi)^{-\tfrac{1}{2}}\\ \Pr_\mathrm{Bin}(\pi) &\propto \pi^{-\tfrac{1}{2}} (1-\pi)^{-\tfrac{1}{2}} \end{align}$

$x$ $n$

\begin{aligned} {Par}_{N. b} (π ∣ x, n) \sim b mi t za (x, n - x + \frac{1}{2)}) \\ {Par}_{b ja n} (π ∣ x, n) \sim b mi t za (x + \frac{1}{2)}, n - x + \frac{1}{2)}) \end{aligned}

$\begin{align} \Pr_\mathrm{NB}(\pi \mid x,n) \sim \mathrm{Beta}(x, n-x+\tfrac{1}{2})\\ \Pr_\mathrm{Bin}(\pi \mid x,n)\sim \mathrm{Beta}(x+\tfrac{1}{2}, n-x+\tfrac{1}{2}) \end{align}$

Obserwując, powiedzmy, że 1 sukces z 10 prób doprowadziłby do całkiem różnych rozkładów bocznych w ramach dwóch schematów próbkowania:

$\pi^{-1+c} (1-\pi)^{-1/2}$ $0 < c\ll 1$

Możesz również uznać sprawdzanie modelu - lub robienie czegokolwiek w wyniku kontroli - za sprzeczne z zasadą niskiego prawdopodobieństwa; rażący przypadek wykorzystania pomocniczej części danych.

Scortchi - Przywróć Monikę
źródło