Różnica między nieinformacyjnymi a niewłaściwymi Przełożonymi

Zastanawiam się, jaka jest różnica między tymi dwoma rodzajami priorytetów:

• Nieinformacyjny
• Niewłaściwy

Niepoprawnymi priorytetami są skończone nieujemne miary d π w przestrzeni parametrów Θ takie, że ∫ Θ d π ( θ ) = + ∞ Jako takie uogólniają pojęcie wcześniejszego rozkładu, który jest rozkładem prawdopodobieństwa w przestrzeni parametrów Θ takie, że ∫ Θ d π ( θ ) = 1 Są użyteczne na kilka sposobów do scharakteryzowania$\sigma$$\text{d}\pi$$\Theta$

$$\int_\Theta \text{d}\pi(\theta) = +\infty$$ $\Theta$ $$\int_\Theta \text{d}\pi(\theta) =1$$

1. zestaw limitów właściwych procedur bayesowskich, które nie są wszystkimi właściwymi procedurami bayesowskimi;
2. częste optymalne procedury jak w (dopuszczalności) kompletnych twierdzeniach klasowych, takich jak Wald;
3. najlepsze estymatory niezmiennicze częste (ponieważ mogą być wyrażone jako szacunki Bayesa w ramach odpowiedniej prawej miary Haara, zwykle niewłaściwe);
4. priory pochodzące z kształtu funkcji wiarygodności, takie jak nieinformacyjne priory (np. Jeffreys).

Ponieważ nie integrują się one do liczby skończonej, nie pozwalają na interpretację probabilistyczną, ale mimo to mogą być stosowane do wnioskowania statystycznego, jeśli krańcowe prawdopodobieństwo jest skończone ponieważ rozkład tylny ℓ ( θ | x ) d π ( θ

$$\int_\Theta \ell(\theta|x)\text{d}\pi(\theta) < +\infty$$ $$\dfrac{\ell(\theta|x)\text{d}\pi(\theta)}{\int_\Theta \ell(\theta|x)\text{d}\pi(\theta)}$$

Ostrzeżenie: Jedna gałąź wnioskowania bayesowskiego nie radzi sobie zbyt dobrze z niewłaściwymi priory, mianowicie podczas testowania ostrych hipotez. Rzeczywiście, te hipotezy wymagają konstrukcji dwóch wcześniejszych rozkładów, jednego pod zerą i drugiego pod alternatywą, które są ortogonalne. Jeśli jeden z tych priorytetów jest niewłaściwy, nie można go znormalizować, a wynikowy współczynnik Bayesa nie jest określony.

$\delta$$L(d,\theta)$$\text{d}\pi$L ( d , θ ) d π ( θ

$$\arg \min_d \int_\Theta L(d,\theta)\ell(\theta|x)\text{d}\pi(\theta)$$ $L(d,\theta)\text{d}\pi(\theta)$ϖ ( θ ) L ( d , θ ) d π ( θ ) = L ( d , θ $\varpi(\theta)$$\varpi(\theta)$ $$L(d,\theta)\text{d}\pi(\theta)=\dfrac{L(d,\theta)}{\varpi(\theta)}\times\varpi(\theta)\text{d}\pi(\theta)$$

Nieinformacyjne priory są klasami (właściwych lub niewłaściwych) wcześniejszych dystrybucji, które są określone w kategoriach pewnego kryterium informacyjnego dotyczącego funkcji prawdopodobieństwa, takiego jak

1. Niewystarczający powód Laplace'a poprzednio;
2. Jeffreys (1939) niezmienni priory;
3. maksymalne entropie (lub MaxEnt) priors (Jaynes, 1957);
4. minimalna długość opisu priors (Rissanen, 1987; Grünwald, 2005);
5. odniesienia priors (Bernardo, 1979, 1781; Berger i Bernardo, 1992; Bernardo i Sun, 2012)
6. priory dopasowanie prawdopodobieństwa (Welsh & Peers, 1963; Scricciolo, 1999; Datta, 2005)

i kolejne klasy, z których niektóre są opisane w Kass i Wasserman (1995). Nazwa nieinformacyjna jest mylącą nazwą, ponieważ żaden przeor nigdy nie jest całkowicie nieinformacyjny. Zobacz moją dyskusję na tym forum. Lub Larry Wasserman za diatribe . (Nieinformacyjne priory są najczęściej niewłaściwe).

Przekaz nieinformacyjny, ściśle mówiąc, nie jest wcześniejszym rozpowszechnieniem. Jest to funkcja taka, że ​​jeśli uznamy to za rozkład i zastosujemy formułę Bayesa, otrzymamy pewien rozkład tylny, który ma na celu jak najlepsze odzwierciedlenie informacji zawartych w danych i tylko w danych, lub w celu uzyskania dobrej właściwości dopasowania częstości (tj. wiarygodny przedział czasu to około przedział ufności).95 $95\%$$95\%$

Przekaz nieinformacyjny jest często „niewłaściwy”. Rozkład ma dobrze znaną właściwość: jego całka jest równa jedności. Mówi się, że nieinformacyjny przeor jest niewłaściwy, gdy jego całka jest nieskończona (dlatego w takim przypadku jasne jest, że nie jest to rozkład).