Pytania dotyczące zasady wiarygodności

17

Obecnie próbuję zrozumieć zasadę wiarygodności i, szczerze mówiąc, wcale jej nie rozumiem. Tak więc napiszę wszystkie moje pytania jako listę, nawet jeśli mogą to być dość podstawowe pytania.

  • Co dokładnie oznacza wyrażenie „wszystkie informacje” w kontekście tej zasady? (ponieważ wszystkie informacje w próbie są zawarte w funkcji prawdopodobieństwa).
  • Czy zasada jest w jakiś sposób związana z bardzo możliwym do udowodnienia faktem, że ? Czy „prawdopodobieństwo” w zasadzie jest takie samo, jak p ( y | x ) , czy nie?p(x|y)p(y|x)p(x)p(y|x)
  • Jak twierdzenie matematyczne może być „kontrowersyjne”? Moje (słabe) rozumienie matematyki polega na tym, że twierdzenie zostało udowodnione lub nie zostało udowodnione. Do jakiej kategorii należy zasada prawdopodobieństwa?
  • Jak ważna jest zasada prawdopodobieństwa dla wnioskowania bayesowskiego, która opiera się na formule ?p(x|y)p(y|x)p(x)
Karel Bílek
źródło
Karel, proszę spojrzeć: ime.usp.br/~pmarques/papers/redux.pdf
Zen.
Zobacz także stronę Grega Gandenbergera: gandenberger.org
Michael Lew -

Odpowiedzi:

10

Zasada prawdopodobieństwa została wyrażona na wiele różnych sposobów, ze zmiennym znaczeniem i zrozumiałością. Książka AWF Edwards „Prawdopodobieństwo” jest zarówno doskonałym wprowadzeniem do wielu aspektów prawdopodobieństwa, jak i wciąż w druku. Oto jak Edwards definiuje zasadę prawdopodobieństwa:

„W ramach modelu statystycznego wszystkie informacje dostarczone przez dane dotyczące względnych zalet dwóch hipotez zawarte są w stosunku prawdopodobieństwa tych hipotez”. (Edwards 1972, 1992, s. 30)

Więc teraz do odpowiedzi.

  1. „Wszystkie informacje w próbie”, jak cytujesz, są po prostu nieodpowiednim wyrażeniem odpowiedniej części zasady prawdopodobieństwa. Edwards mówi to znacznie lepiej: model ma znaczenie, a istotną informacją są informacje odnoszące się do względnych zalet hipotez. Warto zauważyć, że współczynnik prawdopodobieństwa ma sens tylko wtedy, gdy dane hipotezy pochodzą z tego samego modelu statystycznego i wzajemnie się wykluczają. W efekcie muszą być punktami na tej samej funkcji prawdopodobieństwa, aby stosunek był użyteczny.

  2. Jak widać, zasada prawdopodobieństwa jest związana z twierdzeniem Bayesa, ale można ją udowodnić bez odniesienia do twierdzenia Bayesa. Tak, p (x | y) jest (proporcjonalne do) prawdopodobieństwem, o ile x to dane, a y to hipoteza (która może być jedynie hipotetyczną wartością parametru).

  3. Zasada prawdopodobieństwa budzi kontrowersje, ponieważ jej dowód został zakwestionowany. Moim zdaniem dysproporcje są wadliwe, ale mimo to budzą kontrowersje. (Na innym poziomie można powiedzieć, że zasada prawdopodobieństwa jest kontrowersyjna, ponieważ sugeruje, że częste metody wnioskowania są w pewien sposób błędne. Niektórym się to nie podoba.) Zasada prawdopodobieństwa została udowodniona, ale jej zakres trafność może być bardziej ograniczona niż wyobrażają to jej krytycy.

  4. Zasada prawdopodobieństwa jest ważna dla metod bayesowskich, ponieważ dane wchodzą do równania Bayesa na podstawie prawdopodobieństw. Większość metod bayesowskich jest zgodna z zasadą prawdopodobieństwa, ale nie wszystkie. Niektórzy ludzie, jak Edwards i Royall, twierdzą, że wnioskowania można dokonywać na podstawie funkcji wiarygodności bez użycia twierdzenia Bayesa, „wnioskowania o czystym prawdopodobieństwie”. To również jest kontrowersyjne. W rzeczywistości jest to prawdopodobnie bardziej kontrowersyjne niż zasada prawdopodobieństwa, ponieważ Bayesianie zgadzają się z częstymi, że metody czystego prawdopodobieństwa są nieodpowiednie. (Wróg mojego wroga ...)

Michael Lew - przywróć Monikę
źródło
„Warto zauważyć, że współczynnik prawdopodobieństwa ma sens tylko wtedy, gdy dane hipotezy pochodzą z tego samego modelu statystycznego” - co to dokładnie znaczy? Wygląda na to, że mówisz, że nie możesz porównywać modeli z różnych rodzin dystrybucji, co nie jest prawdą.
Scortchi - Przywróć Monikę
Ponieważ prawdopodobieństwa są tylko proporcjonalne do * p * (x | y), zawsze istnieje nieznana stała proporcjonalności. Różne modele statystyczne dopuszczają różne stałe proporcjonalności, a zatem prawdopodobieństwa mogą być niewspółmierne.
Michael Lew - przywróć Monikę
Czasami różne modele mogą być ustawione w taki sposób, aby uzyskać pojedynczą funkcję prawdopodobieństwa (często wielowymiarową), aby prawdopodobieństwa można rozsądnie porównać, ale nie zawsze jest to możliwe.
Michael Lew - przywróć Monikę
1
Być może brakuje mi subtelności, ale rozumiem, że nie ma nieznanych stałych w prawdopodobieństwie, tylko stałe, które anulują się, gdy obliczasz współczynnik prawdopodobieństwa dla modeli z tej samej rodziny, a więc zostań zignorowany. W każdym razie: dla danychx i wszelkie gęstości fa I sol z parametrami θ I ϕ, Nazwałbym statystyki
fa(x;θ^)sol(x;ϕ^)
wskaźnik prawdopodobieństwa; i można go wykorzystać do wnioskowania.
Scortchi - Przywróć Monikę
1
Patrz Cox (1961), Tests of Separate Families of Hypotheses, Proc. 4. Berkeley Symp. na matematyce. Statystyk. i Prob. 1 . Oczywiście twierdzenie Wilksa nie ma zastosowania, więc dwukrotność jego logarytmu nie jest rozłożona jakoχ2).
Scortchi - Przywróć Monikę