Jeffreys przed wieloma parametrami

W niektórych przypadkach wcześniejszy Jeffreys dla pełnego modelu wielowymiarowego jest ogólnie uważany za nieodpowiedni, tak jest na przykład w przypadku: (gdzie , przy nieznanych i ), gdzie preferowany jest następujący przeor (do pełnego Jeffreys ): gdzie to wcześniejszy Jeffreys uzyskany przy zachowaniu stałej (i podobnie dla ). To przeżycie pokrywa się z referencyjnym przełożeniem podczas leczenia

y_{i} = μ + ε_{i},

$y_i=\mu + \varepsilon_i \, ,$

ε \sim N (0, σ^{2})

$\varepsilon \sim N(0,\sigma^2)$

μ

$\mu$

σ

$\sigma$

π (μ, σ) \propto σ^{- 2}

$\pi(\mu,\sigma)\propto \sigma^{-2}$

p (μ, σ) = π (μ) \cdot π (σ) \propto σ^{- 1},

$p(\mu,\sigma) = \pi(\mu) \cdot \pi(\sigma) \propto \sigma^{-1}\, ,$

π (μ)

$\pi(\mu)$

σ

$\sigma$

p (σ)

$p(\sigma)$

σ

$\sigma$ i

μ

$\mu$ w osobnych grupach.

Pytanie 1: Dlaczego traktowanie ich jak w oddzielnych grupach ma większy sens niż traktowanie ich w tej samej grupie (co spowoduje, jeśli mam rację (?), W pełnowymiarowym przed Jeffreys, patrz [1])?

Następnie rozważ następującą sytuację:

y_{i} = g (x_{i}, θ) + ε_{i},

$y_i=g(x_i,\mathbf{\theta}) +\varepsilon_i\, ,$ gdzie

θ \in R^{n}

$\theta \in \mathbb{R}^n$ jest nieznany,

ε_{i} \sim N (0, σ^{2})

$\varepsilon_i \sim N(0,\sigma^2)$ ,

σ

$\sigma$ jest nieznane, a

g

$g$ jest znaną funkcją nieliniową. W takim przypadku kuszące i z mojego doświadczenia czasami owocne jest rozważenie następującego rozkładu:

p (σ, θ) = π (σ) π (θ),

$p(\sigma,\theta)=\pi(\sigma) \pi(\theta) \, ,$ gdzie

π (σ)

$\pi(\sigma)$ i

π (θ)

$\pi(\theta)$ są pierwszymi Jeffreysami dla dwóch podmodeli, tak jak w przykładzie lokalizacji poprzedniej skali.

Pytanie 2: Czy w takiej sytuacji możemy powiedzieć coś o optymalności (z perspektywy teorii informacji) pochodnego wcześniejszego ? $p(\sigma,\theta)$

[1] From https://theses.lib.vt.edu/theses/available/etd-042299-095037/unrestricted/etd.pdf :

Na koniec zauważamy, że przeor Jeffreysa jest szczególnym przypadkiem przeora referencyjnego. W szczególności wcześniejszy Jeffreys odpowiada referencji, w której wszystkie parametry modelu są traktowane w jednej grupie.

distributions bayesian estimation prior jeffreys-prior peuhp
źródło

Myślę, że masz na myśli model wielowymiarowy, regresja wielowymiarowa jest ściśle zarezerwowana dla wielu zmiennych po lewej stronie.

mdewey

Co jest optymalne? Nie ma ogólnego i ogólnego wyniku „optymalności” dla wcześniejszego Jeffreysa. Wszystko zależy od celu analizy statystycznej i funkcji strat przyjętej do oceny i porównania procedur. W przeciwnym razie nie można porównać z . Jak napisałem w mojej najpopularniejszej odpowiedzi na temat sprawdzonego X , nie ma czegoś takiego jak najlepszy nieinformacyjny przeor. $\pi(\theta,\sigma)\propto \dfrac{1}{\sigma}$ $\pi(\theta,\sigma)\propto \dfrac{1}{\sigma}^2$

Xi'an
źródło

Dziękujemy za wkład. Niemniej jednak, moim zdaniem, Jeffreys wcześniej oferuje pewną optymalizację w tym sensie, że przynajmniej w ustawieniu 1d to one minimalizują teoretyczną ilość informacji, która może mieć sens i zostać przedyskutowana (daj mi znać, jeśli się mylę) ). Chodzi mi o to: czy możemy napisać podobne „kryterium”, wcześniejsza procedura Jeffreysa spełnia dwa ustawienia podane w moim pytaniu? Z cytatu podanego w moim pytaniu wydaje się, że tak i chętnie omówię konsekwencje wyboru tego kryterium zamiast innego (z czysto informatycznego punktu widzenia :)).

peuhp

Jeffreys przed wieloma parametrami

Odpowiedzi: