Słyszałem, że Jaynes twierdzi, że częstokroć operatorzy działają „z ukrytym uprzedzeniem”.
Co to są lub są te ukryte priorytety? Czy to oznacza, że modele częste to wszystkie specjalne przypadki modeli bayesowskich, które czekają na odkrycie?
bayesian
prior
posterior
frequentist
Bayesquest
źródło
źródło
Odpowiedzi:
W teorii decyzji częstokrzyskich istnieją pełne wyniki klas, które charakteryzują dopuszczalne procedury jako procedury Bayesa lub jako limity procedur Bayesa. Na przykład Stein warunek konieczny i wystarczający (Stein. 1955; Farrell, 1968b) stwierdza, że przy następujących założeniach
estymator jest dopuszczalny tylko wtedy, gdy istniejeδ
sekwencja estymatorów Bayesa związana z π n taka, że(δn) πn
[reprodukowane z mojej książki, Bayesian Choice , Theorem 8.3.0, s. 407]
W tym ograniczonym znaczeniu częstokroć właściwość dopuszczalności jest obdarzona tłem bayesowskim, stąd kojarzy się dorozumiany uprzedni (lub jego ciąg) z każdym dopuszczalnym estymatorem.
Istnieje podobny (jeśli uwzględniony matematycznie) wynik dla oszacowania niezmiennego lub ekwiwariantowego, a mianowicie, że najlepszym estymatorem ekwiwariantnym jest estymator Bayesa dla każdej grupy przechodniej działającej na modelu statystycznym, związany z właściwą miarą Haara, , indukowaną na Θ przez tę grupę i odpowiadającą jej niezmienniczą stratę. Szczegółowe informacje można znaleźć w Pitman (1939), Stein (1964) lub Zidek (1969). Najprawdopodobniej właśnie to miał na myśli Jaynes , który przekonywał siłą o rozwiązaniu paradoksów marginalizacji według zasad niezmienniczości .π∗ Θ
Ponadto, jak wyszczególniono w odpowiedzi „ Civilstat” , inne częste pojęcie optymalności, a mianowicie minimaxity, jest również powiązane z procedurami bayesowskimi, ponieważ procedura minimax, która minimalizuje błąd maksymalny (w przestrzeni parametrów), jest często procedurą maksymiminy, która maksymalizuje błąd minimalny ( we wszystkich wcześniejszych dystrybucjach), dlatego jest to procedura Bayesa lub limit procedur Bayesa.
Najpierw unikałbym używania terminu „model częstokroć”, ponieważ istnieją modele próbkowania (dane to realizacja Xx X∼f(x|θ) θ 95 95
źródło
Odpowiedź Xi'ana jest bardziej kompletna. Ale skoro poprosiłeś także o mdłe dania na wynos, oto jeden. (Pojęcia, o których wspominam, nie są dokładnie takie same jak powyższe ustawienia dopuszczalności.)
W tym sensie można by rzetelnie powiedzieć: Frequentist (wykorzystujący minimax) jest jak Bayesian, który wybrał (szacunek punktowy na podstawie) najmniej korzystnego przeora.
Być może mógłbyś to streścić, mówiąc: taki częsty jest konserwatywnym bayesowskim, wybierając nie subiektywne priory lub nawet nieinformacyjne priory, ale (w tym konkretnym sensie) najgorsze przypadki.
Wreszcie, jak powiedzieli inni, porównywanie Częstotliwości i Bayesianów w ten sposób jest bardzo trudne. Bycie częstym specjalistą niekoniecznie oznacza, że używasz określonego estymatora. Oznacza to po prostu, że zadajesz pytania dotyczące właściwości próbkowania estymatora, podczas gdy pytania te nie są najwyższym priorytetem Bayesian. (Tak więc każdy Bayesjan, który ma nadzieję na dobre właściwości próbkowania, np. „Skalibrowane Bayes”, jest również częstym uczestnikiem.)
Nawet jeśli zdefiniujesz częstego uczestnika jako tego, którego estymatorzy zawsze mają optymalne właściwości próbkowania, istnieje wiele takich właściwości i nie zawsze możesz spotkaj ich wszystkich naraz. Trudno więc mówić ogólnie o „wszystkich modelach dla częstych”.
źródło