Czy jest jakaś znana interpretacja krzyżowa walidacji według Bayesa, ML lub MDL? Czy mogę zinterpretować weryfikację krzyżową jako wykonanie właściwej aktualizacji na specjalnie spreparowanym wcześniej?
bayesian
cross-validation
maximum-likelihood
Arthur B.
źródło
źródło
Odpowiedzi:
Krzyżowa walidacja ma na celu obiektywne oszacowanie ryzyka (inaczej Błąd testu lub Błąd prognozy). W przypadku, gdy twoja funkcja utraty jest pomniejszona o (generatywne) prawdopodobieństwo dziennika, wówczas weryfikacja krzyżowa zwróci oczekiwane prawdopodobieństwo dziennika twojego modelu. To samo dotyczy sytuacji, gdy funkcja utraty ma motyw bayesowski.
MDL ma również na celu obiektywne oszacowanie ryzyka. Jest to zatem analityczne podejście do tego, co CV wykonuje obliczeniowo.
Patrz sekcja 7.2 w Elementy uczenia statystycznego .
źródło