Co to jest wspólne oszacowanie?

Moje pytanie jest proste: co to jest wspólne oszacowanie? A co to znaczy w kontekście analizy regresji? Jak to jest zrobione? Wędrowałem po potężnym Internecie przez dłuższy czas, ale nie znalazłem odpowiedzi na te pytania.

regression estimation terminology Zagubiony w regresji
źródło

Dziękuję bardzo za wszystkie pomocne odpowiedzi i wysiłek włożony w wyjaśnienie mi tego!

Zagubiony w regresji

Odpowiedzi:

Wspólne oszacowanie to po prostu wspólne oszacowanie dwóch (lub więcej) rzeczy w tym samym czasie. Może to być tak proste, jak oszacowanie średniej i standardowego odchylenia od próby.

W wielu literaturach przywołuje się ten termin, ponieważ należy zastosować specjalną procedurę szacowania. Zwykle dzieje się tak, gdy jedna ilość zależy od drugiej i odwrotnie, tak że analityczne rozwiązanie problemu jest trudne do rozwiązania. Dokładne oszacowanie połączenia zależy całkowicie od problemu.

Jedną z metod, która pojawia się często w celu „wspólnego modelowania” lub wspólnego oszacowania, jest algorytm EM. EM oznacza oczekiwanie - maksymalizacja. Poprzez naprzemienne wykonywanie tych kroków krok E uzupełnia brakujące dane, które w innym przypadku zależą od komponentu A, a krok M znajduje optymalne oszacowania dla komponentu B. Poprzez iterację kroków E i M można znaleźć oszacowanie maksymalnego prawdopodobieństwa A i B, dlatego wspólnie oceniajcie te rzeczy.

AdamO
źródło

Można podać przykład dokąd nie szacowaniu średniej i odchylenia standardowego jednej zmiennej? Jakiego algorytmu używa się wtedy?

smci,

Liniowe mieszane modelowanie @smci wspólnie ocenia stałe i losowe komponenty.

AdamO,

dzięki, proszę, edytuj to (i wszelkie inne przykłady) w swojej odpowiedzi. Czy algorytm jest zupełnie inny niż EM? (Jak potrafi oszacować oba składniki jednocześnie? Czy gwarantuje zbieżność? Itp.)

smci,

@smci Nie zgadzam się. a) To nie jest pytanie PO. b) Istnieją nieskończone „inne przykłady” c) co to jest algorytm LME i czym różni się od EM to kolejne pytanie.

AdamO,

pomaga zilustrować odpowiedź przykładami. I to stanowi lepszą odpowiedź, dlatego jest częścią tego, o co pytano.

smci,

W kontekście statystycznym termin „wspólne oszacowanie” może oznaczać jedną z dwóch rzeczy:

1. Równoczesne oznaczanie dwóch lub więcej parametrów skalarnych (lub równoważnie estymacji parametru wektora z co najmniej dwóch elementów); lub
1. Oszacowanie jednego parametru odnoszącego się do stawu (np. W badaniach stolarki, systemów wodno-kanalizacyjnych lub palenia marihuany).

Z tych dwóch opcji druga jest żartem, więc prawie na pewno wspólne oszacowanie odnosi się do jednoczesnego oszacowania dwóch parametrów skalarnych jednocześnie.

Ben - Przywróć Monikę
źródło

być pedantycznym, dwa lub więcej

qwr

Pedantry zaakceptowane - zredagowane.

Ben - Przywróć Monikę

Wspólne oszacowanie wykorzystuje dane do oszacowania dwóch lub więcej parametrów jednocześnie. Oddzielne oszacowanie ocenia każdy parametr pojedynczo.

Oszacowanie jest wynikiem pewnej formy procesu optymalizacji. Z tego powodu nie istnieją unikalne rozwiązania szacunkowe w statystyce. Jeśli zmienisz cel, zmienisz to, co jest optymalne. Kiedy po raz pierwszy uczysz się takich rzeczy jak regresja, nikt nie mówi ci, dlaczego robisz to, co robisz. Celem instruktora jest zapewnienie stopnia podstawowej funkcjonalności przy użyciu metod, które działają w szerokim zakresie okoliczności. Na początku nie uczysz się o regresji. Zamiast tego uczysz się jednej lub dwóch metod regresji, które są szeroko stosowane w różnych okolicznościach.

Fakt, że szukasz rozwiązań, które rozwiązują ukryty cel, sprawia, że jest to trochę trudne do zrozumienia.

W kontekście regresji wyobraź sobie, że poniższe wyrażenie algebraiczne jest prawdziwe . Truizm w statystykach to im więcej masz informacji, tym lepiej. Załóżmy, że musisz ustalić, jakie wartości dla wystąpią, gdy zobaczysz . Problem polega na tym, że nie znasz prawdziwych wartości dla . Masz duży, kompletny zestaw danych .

z = β_{x} x + β_{y} y + α

$z=\beta_xx+\beta_yy+\alpha$

z

$z$

(x, y)

$(x,y)$

{β_{x}, β_{y}, α}

$\{\beta_x,\beta_y,\alpha\}$

{x, y, z}

$\{x,y,z\}$

W osobnym oszacowaniu można oszacować jeden parametr na raz. We wspólnej ocenie oszacowałbyś je wszystkie naraz.

Zasadniczo wspólne oszacowanie jest dokładniejsze niż oddzielne oszacowanie z dużym kompletnym zestawem danych. Jest jeden ogólny wyjątek od tego. Wyobraź sobie, że masz duży zestaw i ale mały zestaw . Wyobraź sobie, że brakuje większości twoich wartości . $x$ $z$ $y$ $y$

W wielu procedur estymacji, by usunąć brakujące y i s i zmniejszyć w dół zestaw, który pracują z aż wszystkie zestawy są kompletne. Jeśli usunięto wystarczająco dużo danych, może być bardziej dokładne, aby korzystać z dużej liczby y i y osobno oszacować i niż łącznie. $x$ $z$ $x$ $z$ $z=\beta_xx+\alpha$ $z=\beta_yy+\alpha$

Teraz, jak to się robi. Wszystkie szacunki, z wyjątkiem kilku wyjątkowych przypadków, wykorzystują rachunek różniczkowy do znalezienia estymatora, który minimalizuje pewną formę straty lub pewnego rodzaju ryzyka. Problem polega na tym, że nie będziesz miał szczęścia do wyboru próbki. Niestety istnieje nieskończona liczba funkcji utraty. Istnieje również nieskończona liczba funkcji ryzyka.

Znalazłem dla ciebie kilka filmów, ponieważ jest to ogromny temat, dzięki czemu możesz spojrzeć na nie w bardziej ogólnej formie. Pochodzą z Mathematical Monk.

https://www.youtube.com/watch?v=6GhSiM0frIk

https://www.youtube.com/watch?v=5SPm4TmYTX0

https://www.youtube.com/watch?v=b1GxZdFN6cY

https://www.youtube.com/watch?v=WdnP1gmb8Hw .

Dave Harris
źródło