Rozkład próbkowania współczynników regresji

11

Wcześniej dowiedziałem się o rozkładach próbkowania, które dały wyniki, które były dla estymatora, pod względem nieznanego parametru. Na przykład dla rozkładów próbkowania i w modelu regresji liniowejβ^0β^1Yi=βo+β1Xi+εi

β^0N(β0, σ2(1n+x¯2Sxx))
i
β^1N(β1, σ2Sxx)

gdzieSxx=i=1n(xi2)nx¯2

Ale teraz widziałem w książce :

Załóżmy, że dopasowujemy model do najmniejszych kwadratów w zwykły sposób. Rozważmy Bayesowski rozkład a posteriori i wybieramy priory, aby odpowiadało to zwykłemu rozkładowi częstości próbkowania, czyli ......

(β0β1)N2[(β^1β^2), σ^2(ni=1nxii=1nxii=1nxi2)1]

To mnie dezorientuje, ponieważ:

  1. Dlaczego szacunki pojawiają się po lewej stronie (1hs) pierwszych 2 wyrażeń i po prawej stronie (rhs) ostatniego wyrażenia?
  2. Dlaczego czapki beta w ostatnim wyrażeniu mają indeksy 1 i 2 zamiast 0 i 1?
  3. Czy to tylko różne przedstawienia tej samej rzeczy? Jeśli tak, to czy ktoś mógłby pokazać, jak są one równoważne? Jeśli nie, czy ktoś mógłby wyjaśnić różnicę?
  4. Czy to prawda, że ​​ostatnie wyrażenie jest „inwersją” pierwszych dwóch? Czy dlatego właśnie macierz 2x2 w ostatnim wyrażeniu jest odwrócona i szacunki / parametry są przełączane z rhs lhs? Jeśli tak, ktoś mógłby mi pokazać, jak przejść od jednego do drugiego?
Joe King
źródło

Odpowiedzi:

7

Ta część dotyczy przede wszystkim pierwszego, trzeciego i czwartego pytania:

Istnieje zasadnicza różnica między statystyką bayesowską a statystyką częstościową.

Częstotliwościowe statystyki pozwalają wnioskować o tym, które ustalone wartości parametrów są spójne z danymi postrzeganymi losowo, zwykle na podstawie prawdopodobieństwa. Bierzesz (niektóre parametry lub parametry) jako stałe, ale nieznane, i widzisz, które zwiększają prawdopodobieństwo danych; analizuje właściwości próbkowania z jakiegoś modelu, biorąc pod uwagę parametry, aby wnioskować o tym, gdzie mogą być parametry. (Bayesian mógłby powiedzieć, że częste podejście opiera się na „częstotliwościach rzeczy, które się nie wydarzyły”)θ

Statystyka bayesowska analizuje informacje o parametrach pod względem rozkładu prawdopodobieństwa na nich, które są aktualizowane przez dane, według prawdopodobieństwa. Parametry mają rozkłady, więc patrzysz na .P(θ|x_)

Powoduje to rzeczy, które często wyglądają podobnie, ale w których zmienne w jednym wyglądają „w niewłaściwy sposób” oglądane przez obiektyw innego sposobu myślenia o tym.

Zasadniczo są to nieco inne rzeczy, a fakt, że rzeczy, które znajdują się na LHS jednego znajdują się na RHS drugiego, nie jest przypadkiem.

Jeśli popracujesz nad obiema, wkrótce stanie się to dość jasne.

Wydaje mi się, że drugie pytanie dotyczy po prostu literówki.

---

stwierdzenie „ekwiwalent zwykłego rozkładu częstości próbkowania”, to znaczy: „Zrozumiałem, że autorzy stwierdzili rozkład częstości próbkowania. Czy przeczytałem to źle?

Działają tam dwie rzeczy - wyrażają coś nieco luźno (ludzie przez cały czas robią ten szczególny rodzaj przesadnej ekspresji) i myślę, że interpretujecie to również inaczej niż intencję.

Co zatem dokładnie oznacza ich wyrażenie?

Mam nadzieję, że poniższa dyskusja pomoże wyjaśnić zamierzony sens.

Jeśli możesz podać odniesienie (wcześniej. Online, ponieważ nie mam dobrego dostępu do biblioteki), gdzie pochodzi to wyrażenie, byłbym wdzięczny.

Wynika stąd:

http://en.wikipedia.org/wiki/Bayesian_linear_regression

biorąc płaskie priory na i myślę, że także wcześniejszy .βσ2

Powodem jest to, że tylny jest w ten sposób proporcjonalny do prawdopodobieństwa, a przedziały generowane z tylnych na parametrach pasują do częstych przedziałów ufności dla parametrów.

Można znaleźć kilka pierwszych stron tutaj pomocny.

Glen_b - Przywróć Monikę
źródło
Dziękuję, to jest pomocne. Zrobiłem już trochę statystyk bayesowskich. Nadal jestem jednak nieco zdezorientowany, ponieważ stwierdzenie „odpowiada zwykłemu rozkładowi próbkowania częstokroć, to znaczy” : Zrozumiałem, że autorzy stwierdzili rozkład próbkowania częstokroć. Czy przeczytałem to źle? Co zatem dokładnie oznacza ich wyrażenie? Jeśli możesz podać odniesienie (wcześniej. Online, ponieważ nie mam dobrego dostępu do biblioteki), gdzie pochodzi to wyrażenie, byłbym wdzięczny.
Joe King
Joe - patrz moja edycja powyżej
Glen_b