Uzasadnienie wcześniejszego sprzężenia?

12

Czy oprócz użyteczności jest jakieś uzasadnienie epistemiczne (matematyczne, filozoficzne, heurystyczne itp.) Dla używania sprzężonych priorów? A może jest to po prostu tyle, że zwykle jest to wystarczająco dobre przybliżenie i sprawia, że ​​jest o wiele łatwiej?

anonimowy
źródło
W rzeczywistości w wielu przypadkach nie trzeba używać sprzężonych priorów podczas korzystania z MCMC, np. Stats.stackexchange.com/questions/126265/…
Tim
2
Nie ma nic ograniczającego w używaniu sprzężonych priorów, ponieważ dyskretne mieszanki sprzężonych priorów są również sprzężone, dzięki czemu masz dużą elastyczność w konfigurowaniu wcześniejszego sprzężenia.
jaradniemi

Odpowiedzi:

16

Być może, spełniając kategorię „heurystycznego” uzasadnienia, priory sprzężone są przydatne, między innymi z powodu „fikcyjnej interpretacji próby”.

Na przykład w przypadku Beta-Bernoulli koniugatem przed jest Beta o gęstości Można to interpretować jako informacje zawarte w próbce o rozmiarze (luźno, ponieważ oczywiście nie musi być liczbą całkowitą) z sukcesami :

π(θ)=Γ(α0+β0)Γ(α0)Γ(β0)θα01(1θ)β01
n_=α0+β02n_α01f(y|θ)
π(θ)=Γ(α0+β0)Γ(α0)Γ(β0)θα01(1θ)n_(α01)f(y|θ),
gdzie jest funkcją prawdopodobieństwa.f(y|θ)

Może to dać ci pewne wskazówki, jak wybrać wcześniejsze parametry: w niektórych przypadkach możesz powiedzieć, że na przykład jesteś tak pewny uczciwości monety, jakbyś rzucił ją, powiedzmy, 20 razy i widziałem 10 głów. Jest to oczywiście inna siła wcześniejszego przekonania niż jeśli jesteś tak pewny jego uczciwości, jakbyś rzucił ją 100 razy i widziałeś 50 głów.

Christoph Hanck
źródło
Czy każdy uprzedni koniugat ma takie uzasadnienie? Nie jestem pewien ...
Tim
Moje czytanie uwagi na str. 274 Diaconisa i Ylvisakera (1979) sugeruje, że odpowiedź brzmi „tak”.
Christoph Hanck
3

W wyniku Diaconisa i Ylvisakera (1979) wiemy, że w przypadku prawdopodobieństwa, że ​​jest to rodzina wykładnicza, estymatory liniowe są Bayesami tylko wtedy, gdy wcześniejszy jest sprzężony.

Sugeruje to pewne fundamentalne znaczenie używania koniugatu przed, gdy estymator okazuje się liniowy.

użytkownik795305
źródło
nts: Widziałem ten wynik w
rozdziale