Co to jest identyfikowalność modelu?

Wiem, że w przypadku modelu, którego nie można zidentyfikować, można powiedzieć, że dane są generowane przez wiele różnych przypisań do parametrów modelu. Wiem, że czasami można ograniczyć parametry, aby wszystkie były identyfikowalne, jak w przykładzie w wydaniu Cassella i Berger, wyd. 2, sekcja 11.2.

Biorąc pod uwagę konkretny model, jak mogę ocenić, czy można go zidentyfikować?

W celu zidentyfikowania mówimy o parametrze (który może być wektorem), który rozciąga się na przestrzeń parametrów Θ , i rodzinie rozkładów (dla uproszczenia, pomyśl PDF) indeksowanej przez θ, którą zwykle piszemy jak { f θ$\theta$$\Theta$$\theta$ . Na przykład θ może być θ = β, a f może być$\{ f_{\theta}|\, \theta \in \Theta\}$$\theta$$\theta = \beta$$f$

co oznaczałoby, żeΘ=(0,∞). Aby model był identyfikowalny, transformacja odwzorowującaθnafθpowinna byćjeden na jeden. Biorąc pod uwagę model w kolanach, najprostszym sposobem na sprawdzenie tego jest zacząć równaniefθ 1 =fθ 2 , (równość ta powinna posiadać dla (prawie) wszystkichxw

$$f_{\theta}(x) = \frac{1}{\beta}\mathrm{e}^{-x/\beta}, \ x>0,\ \beta >0,$$ $\Theta = (0,\infty)$$\theta$$f_{\theta}$$f_{\theta_{1}} = f_{\theta_{2}}$$x$wsparcie ) i spróbować użyć algebry (lub innego argumentu), aby pokazać, że właśnie takie równanie implikuje, że w rzeczywistości .$\theta_{1} = \theta_{2}$

Jeśli odniesiesz sukces z tym planem, twój model jest możliwy do zidentyfikowania; kontynuuj swoją działalność. Jeśli nie, to albo twój model nie jest identyfikowalny, albo musisz znaleźć inny argument. Intuicja jest taka sama, niezależnie od tego: w możliwym do zidentyfikowania modelu dwa różne parametry (które mogą być wektorami) nie mogą dać tej samej funkcji prawdopodobieństwa.

Ma to sens, ponieważ jeśli dla stałych danych dwa unikalne parametry spowodowałyby takie samo prawdopodobieństwo, wówczas niemożliwe byłoby rozróżnienie dwóch parametrów kandydujących na podstawie samych danych. W takim przypadku niemożliwe byłoby zidentyfikowanie prawdziwego parametru.

$f_{\theta_{1}} = f_{\theta_{2}}$

$$\frac{1}{\beta_{1}}\mathrm{e}^{-x/\beta_{1}} = \frac{1}{\beta_{2}}\mathrm{e}^{-x/\beta_{2}},$$ $x > 0$ $$-\ln\,\beta_{1} - \frac{x}{\beta_{1}} = -\ln\,\beta_{2} - \frac{x}{\beta_{2}}$$ $x > 0$ $$-\left(\frac{1}{\beta_{1}} - \frac{1}{\beta_{2}}\right)x - (\ln\,\beta_{1} - \ln\,\beta_{2})$$

$f(y) = y^{2}$$y$$[-1,1]$$y$$[0,1]$

$\Sigma$$\Sigma$$\Sigma$

$\Sigma$

Jeśli robisz problem z maksymalnym prawdopodobieństwem, wiesz, że asymptotyczna macierz kowariancji twoich szacunków jest równa odwrotności informacji Fishera ocenianych w MLE. Zatem sprawdzenie matrycy informacji Fishera pod kątem (przybliżonej) osobliwości jest również rozsądnym sposobem oceny identyfikowalności. Działa to również tam, gdzie trudno jest obliczyć teoretyczną informację o rybaku, ponieważ często możliwe jest bardzo dokładne przybliżenie liczbowe spójnego estymatora macierzy informacji o rybach, na przykład poprzez oszacowanie oczekiwanego zewnętrznego produktu funkcji wyniku przez zaobserwowany średni produkt zewnętrzny .

$\Sigma$