Czy jest jakaś znana interpretacja krzyżowa walidacji według Bayesa, ML lub MDL? Czy mogę zinterpretować weryfikację krzyżową jako wykonanie właściwej aktualizacji na specjalnie spreparowanym
Mam funkcję prawdopodobieństwa dla prawdopodobieństwa moich danych biorąc pod uwagę niektóre parametry modelu , które chciałbym oszacować. Zakładając płaskie priorytety parametrów, prawdopodobieństwo jest proporcjonalne do prawdopodobieństwa a posteriori. Używam metody MCMC, aby zbadać to...
Próbuję zaplanować plan nauki do nauki MLE. W tym celu staram się ustalić, jaki jest minimalny poziom rachunku różniczkowego niezbędny do zrozumienia MLE. Czy wystarczy zrozumieć podstawy rachunku różniczkowego i całkowego (tzn. Znaleźć minimum i maksimum funkcji), aby zrozumieć...
Zgodnie z twierdzeniem Bayesa . Ale zgodnie z moim tekstem ekonometrycznym mówi się, że P ( θ | y ) ∝ P ( y | θ ) P ( θ ) . Dlaczego tak jest? Nie rozumiem, dlaczego P ( y ) jest ignorowane.P.( y| θ)P.( θ ) = P( θ | y) P( y)P(y|θ)P(θ)=P(θ|y)P(y)P(y|\theta)P(\theta) = P(\theta|y)P(y)P.( θ | y) ∝ P(...
Niedawno uświadomiłem sobie, że w literaturze omawiane są metody „pozbawione prawdopodobieństwa”. Nie jestem jednak pewien, co to znaczy, że metoda wnioskowania lub optymalizacji jest wolna od prawdopodobieństwa . W uczeniu maszynowym celem jest zazwyczaj maksymalizacja prawdopodobieństwa, że...
Czytałem książkę Franklin M. Fisher, The Identification Problem In Econometrics , i byłem zdezorientowany tym, że demonstruje on identyfikację poprzez wizualizację funkcji prawdopodobieństwa. Problem można uprościć, ponieważ: Dla regresji , gdzie u ∼ i . i . d . N ( 0 , Ď 2 I ) , i b są...
Jakie są szacunkowe parametry formalne dla skośnego-normalnego? Jeśli możesz, wyprowadzenie za pośrednictwem MLE lub Mom byłoby również świetne. Dzięki Edit . Mam zestaw danych, dla których mogę wizualnie stwierdzić, że wykresy są lekko przekrzywione w lewo. Chcę oszacować średnią i wariancję, a...
Załóżmy, że mamy losową próbkę z dwuwymiarowego rozkładu normalnego, który ma zera jako średnie i jedynki jako wariancje, więc jedynym nieznanym parametrem jest kowariancja. Co to jest MLE kowariancji? Wiem, że powinno to być coś takiego jak ale skąd to wiemy?1n∑nj = 1xjotyjot1n∑j=1nxjyj\frac{1}{n}...
Używam filtra Kalmana w bardzo standardowy sposób. System jest reprezentowany przez równanie stanu i równanie obserwacyjne .xt + 1= F.xt+ vt + 1xt+1=faxt+vt+1x_{t+1}=Fx_{t}+v_{t+1}yt= Hxt+ A zt+ wtyt=H.xt+ZAzt+wty_{t}=Hx_{t}+Az_{t}+w_{t} Podręczniki uczą, że po zastosowaniu filtru Kalmana i...
Czytam artykuł teoretyczny Douga Batesa o pakiecie R4, aby lepiej zrozumieć drobiazgowość mieszanych modeli, i natknąłem się na intrygujący wynik, który chciałbym lepiej zrozumieć, o zastosowaniu ograniczonego maksymalnego prawdopodobieństwa (REML) do oszacowania wariancji . W części 3.3...
Pytanie jest następujące: Losowa próbka n wartości jest pobierana z ujemnego rozkładu dwumianowego o parametrze k = 3. Znajdź estymator największego prawdopodobieństwa parametru π. Znajdź asymptotyczną formułę błędu standardowego tego estymatora. Wyjaśnij, dlaczego ujemny rozkład...
Rozważ model AR ( ) (zakładając zero dla uproszczenia):ppp xt=φ1xt−1+…+φpxt−p+εtxt=φ1xt−1+…+φpxt−p+εt x_t = \varphi_1 x_{t-1} + \dotsc + \varphi_p x_{t-p} + \varepsilon_t Oszacowano, że estymator OLS (równoważny estymatorowi warunkowego maksymalnego prawdopodobieństwa) dla jest tendencyjny, jak...
Moje aktualne pytania znajdują się w dwóch ostatnich akapitach, ale motywuję je: Jeśli próbuję oszacować średnią zmiennej losowej, która podąża za rozkładem normalnym ze znaną wariancją, przeczytałem, że umieszczenie munduru przed średnią skutkuje rozkładem tylnym, który jest proporcjonalny do...
mgcvOpakowanie Rposiada dwie funkcje montowania interakcji produktów napinacz: te()i ti(). Rozumiem podstawowy podział pracy między nimi (dopasowanie interakcji nieliniowej vs. rozkładanie tej interakcji na główne efekty i interakcję). To, czego nie rozumiem, to dlaczego te(x1, x2)i ti(x1) + ti(x2)...
W latach szkolnych i na uniwersytecie miałem wystarczająco dużo kursów statystyki. Dobrze rozumiem pojęcia, takie jak CI, wartości p, interpretacja istotności statystycznej, testowanie wielokrotne, korelacja, prosta regresja liniowa (z najmniejszymi kwadratami) (ogólne modele liniowe) i wszystkie...
Chciałbym zrozumieć kilka faktów dotyczących estymatorów maksymalnego prawdopodobieństwa (MLE) dla regresji logistycznych. Czy to prawda, że ogólnie MLE regresji logistycznej jest stronniczy? Powiedziałbym tak". Wiem na przykład, że wymiar próbki jest związany z asymptotycznym nastawieniem...
Pracuję nad zestawem danych. Po zastosowaniu niektórych technik identyfikacji modelu, wyszłam z modelem ARIMA (0,2,1). Użyłem detectIOfunkcji w pakiecie TSAw R do wykrycia innowacyjnej wartości odstającej (IO) przy 48. obserwacji mojego oryginalnego zestawu danych. Jak włączyć tę wartość...
Rozumiem, że jeśli mam dwa modele A i B, a A jest zagnieżdżone w B, to biorąc pod uwagę pewne dane, mogę dopasować parametry A i B za pomocą MLE i zastosować uogólniony test współczynnika wiarygodności dziennika. W szczególności, rozkład testu należy z stopni swobody, gdzie jest różnicą liczby...
Moje pytanie wynika z przeczytania „Szacowania rozkładu Dirichleta” Minki , który stwierdza bez dowodu w kontekście wyprowadzenia estymatora największego prawdopodobieństwa dla rozkładu Dirichleta na podstawie obserwacji losowych wektorów: Jak zawsze w przypadku rodziny wykładniczej, gdy...
Tytuł mówi wszystko. Rozumiem, że najmniejsze kwadraty i maksymalne prawdopodobieństwo dadzą taki sam wynik dla współczynników regresji, jeśli błędy modelu są zwykle rozkładane. Ale co się stanie, jeśli błędy nie są zwykle dystrybuowane? Dlaczego te dwie metody nie są już...