AIC / BIC: dla ilu parametrów liczy się permutacja?

13

Powiedzmy, że mam problem z wyborem modelu i próbuję użyć AIC lub BIC do oceny modeli. Jest to proste w przypadku modeli, które mają pewną liczbę parametrów o wartościach rzeczywistych.k

Co jednak, jeśli jeden z naszych modeli (na przykład model Mallowsa ) ma permutację plus niektóre parametry o wartości rzeczywistej zamiast tylko parametrów o wartości rzeczywistej? Nadal mogę zmaksymalizować prawdopodobieństwo nad parametrami modelu, na przykład uzyskując permutację i parametr p . Ile jednak parametrów π wlicza się do obliczania AIC / BIC?πpπ

Andrew Mao
źródło
Czy to AIC na AIC? Wykazano, że model Mallows Cp jest równoważny z AIC. en.wikipedia.org/wiki/Mallows's_Cp
EngrStudent
Mallows Cp jest techniką wyboru modelu regresji. Pytam o wybór modelu dla innego modelu statystycznego, który również ma swoją nazwę, ale który ma jeden z parametrów permutacji.
Andrew Mao
Andrew, miałem nadzieję uzyskać na to dobrą odpowiedź. Przepraszam, że nie wyszło tak dobrze. -mike
EngrStudent
Być może istnieje podejście symulacyjne - coś, w którym można znaleźć odpowiedź i opublikować ją. To może być nowy materiał.
EngrStudent

Odpowiedzi:

2

Intuicyjnie podejrzewam, że zestaw wszystkich permutacji na elementach jest równoważny parametrom p 2 - 2 p + 1 .pp22p+1

Wynika to z tego, że macierze permutacji są skrajnymi punktami wypukłej przestrzeni podwójnie stochastycznych macierzy rzeczywistych rangi , i ogólnie podwójnie stochastyczne macierze mają parametry p 2 - 2 p + 1 (otrzymujemy ograniczenia 2 p , ponieważ wszystkie rzędy sumy muszą być równe 1, a sumy kolumn muszą być równe 1, ale jedna z nich jest zbędna, więc masz ograniczenia 2 p - 1 dla wpisów p 2 ).pp22p+12p2p1p2

Nie mam dowodu, ale wydaje się słuszne. Może warto spróbować tego liczbowo?

Timothy Teräväinen
źródło
Świetne wytłumaczenie, ale co rozumiesz przez „próbowanie liczbowo”? Coś też jest w tym nie tak, ponieważ nadanie każdemu elementowi parametru spowoduje dowolną permutację, a to tylko suma parametrów . p
Andrew Mao,
pp22p+1p!