Obecnie pracuję z łańcuchami Markowa i obliczyłem oszacowanie maksymalnego prawdopodobieństwa przy użyciu prawdopodobieństw przejścia, jak sugeruje kilka źródeł (tj. Liczba przejść od a do b podzielona przez liczbę całkowitych przejść od a do innych węzłów).
Chcę teraz obliczyć logarytmiczne prawdopodobieństwo MLE.
maximum-likelihood
markov-process
likelihood
społeczność
źródło
źródło
Odpowiedzi:
Niech będzie ścieżką łańcucha markowa i niech będzie prawdopodobieństwem zaobserwowania ścieżki, gdy jest prawdziwa wartość parametru (znana również jako funkcja prawdopodobieństwa dla ). Używając definicji prawdopodobieństwa warunkowego, wiemy{Xi}Ti=1 Pθ(X1,...,XT) θ θ
Ponieważ jest to łańcuch markowa, wiemy, że , więc to upraszcza to doPθ(XT|XT−1,...,X1)=Pθ(XT|XT−1)
Teraz, jeśli powtórzysz tę samą logikę razy, otrzymaszT
gdzie należy interpretować jako stan początkowy procesu. Terminy po prawej stronie są tylko elementami macierzy przejścia. Ponieważ żądano prawdopodobieństwa dziennika, ostateczna odpowiedź brzmi:X0
Jest to prawdopodobieństwo pojedynczego łańcucha markowa - jeśli twój zestaw danych zawiera kilka (niezależnych) łańcuchów markowa, pełne prawdopodobieństwo będzie sumą warunków tego formularza.
źródło