Po co używać rozkładu beta parametru Bernoulliego do hierarchicznej regresji logistycznej?

Obecnie czytam doskonałą książkę Kruschke „Doing Bayesian Data Analysis”. Jednak rozdział dotyczący hierarchicznej regresji logistycznej (rozdział 20) jest nieco mylący.

Rysunek 20.2 opisuje hierarchiczną regresję logistyczną, w której parametr Bernoulliego jest zdefiniowany jako funkcja liniowa współczynników przekształconych przez funkcję sigmoidalną. Wydaje się, że jest to sposób hierarchicznej regresji logistycznej w większości przykładów, które widziałem również w innych źródłach online. Na przykład - http://polisci2.ucsd.edu/cfariss/code/SIMlogit02.bug

Jednak gdy predyktory są nominalne, dodaje warstwę w hierarchii - parametr Bernoulliego jest teraz rysowany z rozkładu beta (rysunek 20.5) z parametrami określonymi przez mu i kappa, gdzie mu jest sigmoidalną transformacją funkcji liniowej współczynników , a kappa używa wcześniejszego współczynnika gamma.

Wydaje się to rozsądne i analogiczne do przykładu przerzucania monet z rozdziału 9, ale nie rozumiem, co mają nominalne predyktory związane z dodaniem rozkładu beta. Dlaczego nie zrobić tego w przypadku predyktorów metrycznych i dlaczego dodano rozkład beta dla predyktorów nominalnych?

EDYCJA: Wyjaśnienie modeli, o których mówię. Po pierwsze, model regresji logistycznej z predyktorami metrycznymi (bez wcześniejszej wersji beta). Jest to podobne do innych przykładów hierarchicznej regresji logistycznej, takich jak powyższy przykład błędów:

$$y_i \sim \operatorname{Bernoulli}(\mu_i) \\ \mu_i = \operatorname{sig}(\beta_0 + \sum_j \beta_j x_{ji} ) \\ \beta_0 \sim N(M_0, T_0) \\ \beta_j \sim N(M_\beta, T_\beta) \\ $$

Następnie przykład z predyktorami nominalnymi. Tutaj nie do końca rozumiem rolę „niższego” poziomu hierarchii (włączenie wyniku logistycznego do wcześniejszej wersji beta dla dwumianu) i dlaczego powinien być inny niż przykład metryczny.

$$z_i \sim \operatorname{Bin}(\theta_i, N) \\ \theta_i \sim \operatorname{Beta}(a_j, b_j) \\ a_j = \mu_j \kappa \\ b_j = (1- \mu_j) \kappa \\ \kappa \sim \Gamma(S_\kappa, R_\kappa) \\ \mu_j = \operatorname{sig}(\beta_0 + \sum_j \beta_j x_{ji} ) \\ \beta_0 \sim N(M_0, T_0) \\ \beta_j \sim N(0, \tau_\beta) \\ \tau_\beta = 1/\sigma_{\beta}^2 \\ \sigma_{\beta}^2 \sim \operatorname{folded t} (T_t, DF)$$

Dwa porównywane modele mają wiele obcych cech i myślę, że możesz bardziej precyzyjnie sformułować swoje pytanie w kontekście następujących dwóch uproszczonych modeli:

Model 1:

$$\begin{align} y_i | \mu_i &\sim \operatorname{Bern}( \mu_i ) \\ \mu_i &\sim \pi(\mu_i) \end{align}$$

Model 2:

$$\begin{align} y_i | \theta_i & \sim \operatorname{Bern}( \theta_i ) \\ \theta_i | \mu_i,\kappa &\sim \operatorname{Beta}\big( \mu_i\kappa, (1-\mu_i)\kappa \big) \\ \mu_i&\sim \pi(\mu_i) \end{align}$$

Twoje pytania to: (1) jaką rolę odgrywa dystrybucja beta; i powiązane, (2) w jaki sposób (jeśli w ogóle) różni się Model 2 od Modelu 1?

$\mu_i$$\mu_i$

$$\begin{gather} p(\mu_i|y_i) \propto \mu_i^{y_i}(1-\mu_i)^{1-y_i}\pi(\mu_i) \end{gather}$$ $\mu_i$ $$\begin{align} p(\mu_i|y_i,\kappa) &\propto \int^1_0 \frac{\theta_i^{y_i + \mu_i\kappa - 1}(1-\theta_i)^{\kappa(1-\mu_i)-y_i}}{B\big(\kappa\mu_i,\kappa(1-\mu_i)\big)} d\theta \,\pi(\mu_i) \\ &\propto \frac{B\big(y_i+\mu_i\kappa,1-y_i+\kappa(1-\mu_i)\big)\pi(\mu_i) }{B\big(\kappa\mu_i,\kappa(1-\mu_i)\big)} \\ &\propto \mu_i^{y_i}(1-\mu_i)^{1-y_i} \pi(\mu_i) \end{align}$$

$\theta_i$

Powodem rysowania parametru Bernoulliego z rozkładu beta jest to, że beta jest sprzężony z dwumianowym. Korzystanie z wcześniejszej dystrybucji koniugatu umożliwia rozwiązanie w postaci zamkniętej do znalezienia tylnej.

EDYCJA: wyjaśnienie. Oba modele będą działać. Nawet w przypadku MCMC przydatne jest posiadanie sprzężonych priorów, ponieważ pozwala to na użycie specjalistycznych samplerów dla różnych typów dystrybucji, które są bardziej wydajne niż próbniki ogólne. Na przykład patrz instrukcja obsługi JAGS, rozdz. 4.1.1 i ust. 4.2.