Zaloguj prawdopodobieństwo a iloczyn prawdopodobieństwa

Zgodnie z tym artykułem wikipedii można przedstawić iloczyn prawdopodobieństwa x⋅yjako -log(x) - log(y)uczynienie obliczeń bardziej optymalnymi obliczeniowo. Ale jeśli spróbuję podać przykład, powiedz:

p1 = 0.5
p2 = 0.5
p1 * p2 = 0.25
-log(p1) - log(p2) = 2

p3 = 0.1
p4 = 0.1
p3 * p4 = 0.01
-log(p3) - log(p4) = 6.64

Iloczyn prawdopodobieństw p1i p2jest wyższy niż p3i p4, ale prawdopodobieństwo logarytmiczne jest niższe.

Dlaczego?

Obawiam się, że źle zrozumiałeś, co zamierza ten artykuł. Nie jest to żadną niespodzianką, ponieważ jest niejasno napisane. Działają się dwie różne rzeczy.

Pierwszym z nich jest po prostu praca w skali dziennika.

Oznacza to, że zamiast „ ” (gdy masz niezależność), zamiast tego można napisać „ log ( p A B ) = log ( p A ) + log ( p B ) ”. Jeśli potrzebujesz rzeczywistego prawdopodobieństwa, możesz potęgować na końcu, aby odzyskać p A B :$p_{AB} = p_A\cdot p_B$$\log(p_{AB}) = \log(p_A)+ \log(p_B)$$p_{AB}$$\qquad p_{AB}=e^{\log(p_A)+ \log(p_B)}\,,$ ale jeśli zajdzie taka potrzeba, potęgowanie zwykle pozostawia się do ostatniego możliwego kroku. Jak na razie dobrze.

Druga część jest zastąpienie z - log p . Dzieje się tak, dlatego pracujemy z wartościami dodatnimi.$\log p$$-\log p$

Osobiście nie widzę w tym wiele wartości, zwłaszcza, że ​​odwraca kierunek dowolnego uporządkowania ( rośnie monotonicznie, więc jeśli p 1 < p 2 , to log ( p A ) < log ( p 2 ) ; to kolejność jest odwrócona za pomocą - log p ).$\log$$p_1<p_2$$\log(p_A)< \log(p_2)$$-\log p$

$\log p$

$s_i = -\log(p_i)$$s$$p_{AB}=e^{-[s_A+ s_B]}\,.$ As you see, that reverses direction a second time, giving us back what we need.