Jakie są wady prawdopodobieństwa profilu?

19

Rozważ wektor parametrów , przy czym θ 1 to parametr będący przedmiotem zainteresowania, a θ 2 parametr uciążliwy.(θ1,θ2)θ1θ2

Jeśli jest prawdopodobieństwo wykonana z danych x prawdopodobieństwo profil dla θ 1 jest określona jako L P ( θ 1 , x ) = L ( θ 1 , θ 2 ( θ 1 ) , x ) , gdzie θ 2 ( θ 1 ) jest MLE z θ 2L(θ1,θ2;x)xθ1LP(θ1;x)=L(θ1,θ^2(θ1);x)θ^2(θ1)θ2dla stałej wartości .θ1

Maksymalizacja prawdopodobieństwo profilu względem θ 1 prowadzi do tego samego oszacowania θ 1 jako uzyskanej poprzez zwiększenie prawdopodobieństwa równolegle względem θ 1 i θ 2 .θ1θ^1θ1θ2

myślę odchylenie standardowe θ 1 może być również określona na drugiej pochodnej prawdopodobieństwa profilu.θ^1

Statystykę prawdopodobieństwo dla H 0 : θ 1 = θ 0 może być zapisana w odniesieniu do profilu prawdopodobieństwo: L R = 2 log ( l P ( θ 1 ; x )H0:θ1=θ0.LR=2log(LP(θ^1;x)LP(θ0;x))

Wygląda więc na to, że prawdopodobieństwa profilu można użyć dokładnie tak, jakby to było prawdziwe prawdopodobieństwo. Czy to naprawdę tak jest? Jakie są główne wady tego podejścia? A co z „plotką”, że estymator uzyskany z prawdopodobieństwa profilu jest stronniczy (edytuj: nawet asymptotycznie)?

ocram
źródło
2
tylko uwaga, estymatory prawdopodobieństwa mogą być również stronnicze, klasycznym przykładem jest oszacowanie wariancji prawdopodobieństwa dla próbki normalnej.
mpiktas
@mpiktas: Dziękujemy za komentarz. Rzeczywiście, klasyczny mle może być również stronniczy. Przeredaguję pytanie, aby wszystko było bardziej zrozumiałe.
ocram
jakie jest asymptotyczne nastawienie? Czy mówisz o niespójnych estymatorach?
mpiktas
@mpiktas: Tak, tak powinienem powiedzieć ...
ocram

Odpowiedzi:

14

θ1θ2θ1θ1(θ1,θ2) łącznie.

θ^1θ2 .

McCullagh i Nelder, Uogólnione modele liniowe, 2. wydanie , mają krótki rozdział na temat prawdopodobieństwa profilu (Sec 7.2.4, str. 254-255). Mówią:

[A] przybliżone zestawy ufności można uzyskać w zwykły sposób ... takie przedziały ufności są często zadowalające, jeżeli [ θ2)] jest niewielki w stosunku do wszystkich informacji Fishera, ale w przeciwnym razie może wprowadzać w błąd .... Niestety [prawdopodobieństwo dziennika profilu] nie jest funkcją prawdopodobieństwa dziennika w zwykłym znaczeniu. Oczywiście jego pochodna nie ma średniej zerowej, właściwości niezbędnej do oszacowania równań.

Karl
źródło
Bardzo dziękuję za odpowiedź. Przed zaakceptowaniem pozwól, że zapytam o coś więcej. Jakie są implikacjemilP.(θ1)θ10?
ocram
Ciekawe pytanie, choć wymagało wycieczki na półkę z książkami (co i tak powinienem był zrobić). Dodałem trochę do mojej odpowiedzi na ten temat.
Karl
Dziękuję bardzo za edycję. Mówi się, że właściwość (wynik oceniany przy prawdziwej wartości parametru ma średnią zero) jest niezbędny do oszacowania równań. Ale chociaż prawdopodobieństwo dziennika profilu nie spełnia tej właściwości, powoduje MLE. Czy coś mi brakuje?
ocram
Ta właściwość nie jest konieczna do zapewnienia MLE.
Karl