Czy prawdopodobieństwo a posteriori może być> 1?

18

We wzorze Bayesa:

P(x|a)=P(a|x)P(x)P(a)

czy prawdopodobieństwo tylne może przekraczać 1?P(x|a)

Myślę, że jest to możliwe, jeśli na przykład przyjmujemy, że i oraz . Ale nie jestem tego pewien, bo co to znaczy, że prawdopodobieństwo jest większe niż jeden?P ( a ) < P ( x ) < 1 P ( a ) / P ( x ) < P ( a | x ) < 10<P(a)<1P(a)<P(x)<1P(a)/P(x)<P(a|x)<1

Thomas Moore
źródło
6
Należy precyzyjnie definiować notację. Nie jest jasne, co reprezentuje P.() . Jeśli P.() jest (a) rozkładem prawdopodobieństwa (w którym to przypadku za i x są zestawami) lub (b) funkcją masy w przestrzeni dyskretnej, to odpowiedzi, które już masz, są zasadniczo poprawne. Jeśli P.() jest rozumiane jako funkcja gęstości, to nie jest prawdą, że P.(xza)1 . Powodem tego jest to, że wszystkie trzy typy funkcji spełniają regułę Bayesa. Notacja P.() zwykle odnosi się do dystrybucji, ale użycie małych liter w argumentach sugeruje gęstość.
facet
2
P.(xza)=P.(x,za)P.(za)P.(za)P.(za)=1 więc prawdopodobieństwo tylne nie może przekroczyć 1 . (Gęstość tylna to inna sprawa - wiele ciągłych rozkładów ma gęstości przekraczające 1 dla niektórych wartości)
Henry
Jeśli obliczony tylny przekracza jeden, popełniłeś gdzieś błąd.
Emil M. Friedman,
2
@EmilMFriedman, twoja odpowiedź jest dwuznaczna (iz tego powodu potencjalnie szkodliwa), ponieważ nie wskazuje, czy odnosi się do prawdopodobieństwa lub gęstości
whuber
Bariera jedności w prawdopodobieństwie może i została przełamana. Zobacz mój post AT stats.stackexchange.com/questions/4220/… .
Mark L. Stone

Odpowiedzi:

8

Zakładane warunki nie mają zastosowania - nigdy nie może być prawdą, że przez definicję prawdopodobieństwa warunkowego :P.(za)/P.(x)<P.(za|x)

P(a|x)=P(ax)/P(x)P(a)/P(x)

khol
źródło
28

Nie, prawdopodobieństwo tylnego prawdopodobieństwa nie może przekroczyć jednego. Byłoby to naruszeniem normującego aksjomatu teorii prawdopodobieństwa. Stosując zasady prawdopodobieństwa warunkowego, musisz mieć:

P(a|x)=P(a,x)P(x)P(a)P(x).

Oznacza to, że nie możesz mieć określonych warunków nierówności. (Nawiasem mówiąc, jest to dobre pytanie: dobrze, że badasz prawa prawdopodobieństwa w poszukiwaniu problemów. Pokazuje to, że badasz te sprawy z większym stopniem rygorystyczności niż większość studentów.)

Dodatkowa uwaga: warto wspomnieć o tej sytuacji jeszcze raz, która dotyczy logicznego priorytetu różnych cech prawdopodobieństwa. Pamiętaj, że teoria prawdopodobieństwa zaczyna się od zestawu aksjomatów, które charakteryzują rzeczywistą miarę prawdopodobieństwa. Z tych aksjomatów możemy wyprowadzić „reguły prawdopodobieństwa”, które są twierdzeniami wywodzącymi się z aksjomatów. Te zasady prawdopodobieństwa muszą być zgodne z aksjomatami, aby były ważne. Jeśli kiedykolwiek odkryjesz, że reguła prawdopodobieństwa prowadzi do sprzeczności z jednym z aksjomatów (np. Prawdopodobieństwo przestrzeni próbki jest większa niż jeden), nie fałszuje to aksjomatu - fałszuje regułę prawdopodobieństwa . Dlatego też, nawet jeśli to było w przypadku reguła Bayesa możeprowadzić do prawdopodobieństwa a posteriori większego niż jeden (tak nie jest), nie oznacza to, że możesz mieć prawdopodobieństwo a posteriori większe niż jeden; oznaczałoby to po prostu, że reguła Bayesa nie jest prawidłową zasadą prawdopodobieństwa.

Przywróć Monikę
źródło
1
Czy końcowym licznikiem powinna być P (x)?
BallpointBen
Wciąż pokazuję P (a) dla mnie
BallpointBen
1
Ma to być P (a) w liczniku. Nierówność pokazuje PO, że nie może mieć P (a | x)> P (a) / P (x), jak to określił w swoim pytaniu.
Przywróć Monikę
9

Formuła Bayesa nie może dać wartości dla przekraczających . Intuicyjnym sposobem na sprawdzenie tego jest wyrażenie za pomocą prawa całkowitego prawdopodobieństwa jako podając, że który pokazuje, że licznik jest tylko jednym z wyrażeń w sumie w mianowniku, a więc ułamek nie może przekroczyć wartości. P(BA)1P(A)P(A)=P(AB)P(B)+P(ABc)P(Bc)P(BA)=P(AB)P(B)P.(bZA)=P.(ZAb)P.(b)P.(ZA)P.(bZA)1P.(ZA)

P.(ZA)=P.(ZAb)P.(b)+P.(ZAbdo)P.(bdo)
P.(bZA)=P.(ZAb)P.(b)P.(ZA)=P.(ZAb)P.(b)P.(ZAb)P.(b)+P.(ZAbdo)P.(bdo)
1
Dilip Sarwate
źródło
+1 to dla mnie najłatwiejszy dowód.
Mehrdad
@Mehrdad Thanks. Pozostałe odpowiedzi zasadniczo dowodzą, że prawdopodobieństwo warunkowe nie może przekraczać 1, przez co P ( A B ) P ( B ) = P \ A B ) nie może przekraczać P ( A ), ponieważ A B A i tak musi być, że P \ A B ) P ( A )P.(bZA)1P.(ZAb)P.(b)=P.\ZAb)P.(ZA)ZAbZAP.\ZAb)P.(ZA)I mają mały związek per se do związku o wzorze Bayesa (jak to jest stosowane w celu uzyskania danych statystycznych prawdopodobieństwa posteriori prawdopodobieństw z poprzednich).
Dilip Sarwate