Z teorii statystyki Mark J. Schervish (strona 12):
Chociaż twierdzenie DeFinetti o reprezentacji 1.49 ma zasadnicze znaczenie dla motywowania modeli parametrycznych, w rzeczywistości nie jest wykorzystywane w ich implementacji.
W jaki sposób twierdzenie jest kluczowe dla modeli parametrycznych?
Odpowiedzi:
De Finetti za reprezentowanie Twierdzenie daje w jednym odbiorze, w subiektywistycznej interpretacji prawdopodobieństwa, w raison d'être modeli statystycznych i znaczenie parametrów i ich rozkładów a priori.
Załóżmy, że zmienne losowe reprezentują wyniki kolejnych rzutów monety, przy wartościach i odpowiadających odpowiednio wynikom „Głowy” i „Ogony”. Analizując, w kontekście subiektywistycznej interpretacji rachunku prawdopodobieństwa, znaczenia typowego modelu częstościowego, w którym są niezależne i identycznie rozmieszczone, De Finetti zauważył, że warunek niezależności oznaczałby na przykład, że a zatem wyniki pierwszego rzuty nie zmieniłyby mojej niepewności co do wyniku 1 0 X i P { X n = x n ∣ X 1 = x 1 , … , X n - 1 = x n - 1 } = P { X n = x n }X1,…,Xn 1 0 Xi n - 1 n a priori
Ta obserwacja doprowadziła De Finetti do wprowadzenia stanu słabszego niż niezależność, który rozwiązuje tę pozorną sprzeczność. Kluczem do rozwiązania De Finetti jest rodzaj symetrii dystrybucyjnej zwanej wymiennością.
{ X i } n i = 1 μ X 1 , … , X n μ X 1 , … , X n = μ X π ( 1 ) , … , X π ( n ) π : { 1 , … , n } → { 1 , … , n } { X iDefinition. Dla danego zbioru skończonego losowych obiektów, niech oznaczają ich wspólny rozkład. Ten skończony zestaw jest wymienny, jeśli , dla każdej permutacji . Sekwencja losowych obiektów jest wymienna, jeśli każdy z jej skończonych podzbiorów jest wymienny.{Xi}ni=1 μX1,…,Xn μX1,…,Xn=μXπ(1),…,Xπ(n) π:{1,…,n}→{1,…,n} {Xi}∞i=1
Zakładając jedynie, że sekwencja zmiennych losowych jest wymienna, De Finetti udowodnił godne uwagi twierdzenie, które rzuca światło na znaczenie powszechnie stosowanych modeli statystycznych. W szczególnym przypadku, gdy przyjmują wartości i , Twierdzenie De Finetti o reprezentacji mówi, że jest wymienny tylko wtedy, gdy istnieje zmienna losowa , z rozkładem , takim że w którym . Co więcej, mamy to{Xi}∞i=1 Xi 0 1 {Xi}∞i=1 Θ:Ω→[0,1] μΘ
To Twierdzenie o reprezentacji pokazuje, w jaki sposób powstają modele statystyczne w kontekście bayesowskim: pod hipotezą wymienności obserwowalnych , a tak, że biorąc pod uwagę wartość , obserwowalne są niezależne i identycznie rozmieszczone. Co więcej, Silne prawo De Finetti pokazuje, że nasza wcześniejsza opinia na temat nieobserwowalnego , reprezentowana przez rozkład , jest opinią na temat granicy , zanim będziemy mieli informacje o wartościach realizacji dowolnego z{Xi}∞i=1 there is parameter Θ Θ conditionally Θ μΘ X¯n Xi „s. Parametr odgrywa rolę użytecznej konstrukcji pomocniczej, która pozwala nam uzyskać prawdopodobieństwa warunkowe obejmujące tylko obserwowalne poprzez relacje takie jak
Θ
źródło
Wszystko jest matematycznie poprawne w odpowiedzi Zen. Nie zgadzam się jednak w niektórych kwestiach. Pamiętaj, że nie twierdzę / nie uważam, że mój punkt widzenia jest dobry; wręcz przeciwnie, uważam, że te kwestie nie są jeszcze do końca jasne. Są to nieco filozoficzne pytania, o których lubię dyskutować (i dobre ćwiczenie z angielskiego) i jestem również zainteresowany wszelkimi radami.
O przykładzie z „Głowami”, komentarz Zen: „hipoteza niezależności sugerowałaby, że nie można dowiedzieć się niczego o monecie, obserwując wyniki jej rzutów”. Nie jest to prawdą z perspektywy częstych: poznanie monety oznacza poznanie , co jest możliwe poprzez oszacowanie (oszacowanie punktu lub przedział ufności) z poprzednich wyników. Jeśli częsty obserwuje „głów”, wówczas stwierdza, że jest prawdopodobnie bliskie , a zatem konsekwencji.999 Xi θ θ 999 999 θ 1 Pr(Xn=1)
Nawiasem mówiąc, w tym przykładzie rzucania monetą, co to jest losowy ? Wyobrażając sobie, że każda z dwóch osób gra nieskończoną liczbę razy w tę samą monetę, dlaczego mieliby znaleźć inną ? Mam na myśli, że cechą losowania monet jest stała która jest wspólną wartością dla każdego gracza („prawie każdy gracz” z technicznych powodów matematycznych). Bardziej konkretnym przykładem, dla którego nie ma interpretowalnego losowego jest przypadek losowego próbkowania z zastąpieniem w skończonej populacji i .Θ θ=X¯∞ θ X¯∞ Θ 0 1
O książce Schervisha i pytaniu postawionym przez PO myślę, że (szybko mówiąc) Schervish oznacza, że wymienność jest „chłodnym” założeniem, a następnie twierdzenie deFinetti jest „fajne”, ponieważ mówi, że każdy model wymienny ma reprezentację parametryczną. Oczywiście całkowicie się zgadzam. Jeśli jednak model wymienny, taki jak i wtedy byłbym zainteresowany wykonaniem wnioskowanie o i , a nie o realizacji . Jeśli interesuje mnie tylko realizacja , nie widzę żadnego zainteresowania zakładaniem wymienności.Θ ∼ Beta ( a , b ) a b Θ Θ(Xi∣Θ=θ)∼iidBernoulli(θ) Θ∼Beta(a,b) a b Θ Θ
Jest późno...
źródło
Być może zainteresuje Cię artykuł na ten temat (do uzyskania dostępu wymagana jest subskrypcja czasopisma - spróbuj uzyskać do niego dostęp ze swojej uczelni):
O'Neill, B. (2011) Wymienność, korelacja i efekt Bayesa. Międzynarodowy przegląd statystyczny 77 (2), s. 241–250.
Ten artykuł omawia twierdzenie o reprezentacji jako podstawę zarówno bayesowskich, jak i częstych modeli IID, a także stosuje je do przykładu rzucania monetą. Powinno to wyjaśnić dyskusję na temat założeń paradygmatu częstych. W rzeczywistości wykorzystuje szersze rozszerzenie do twierdzenia o reprezentacji wykraczające poza model dwumianowy, ale nadal powinno być przydatne.
źródło