Różne transformacje gęstości prawdopodobieństwa ze względu na czynnik jakobowski

W Bishop's Pattern Recognition and Machine Learning przeczytałem, co następuje, zaraz po wprowadzeniu gęstości prawdopodobieństwa : $p(x\in(a,b))=\int_a^bp(x)\textrm{d}x$

Przy nieliniowej zmianie zmiennej gęstość prawdopodobieństwa przekształca się inaczej niż prosta funkcja, ze względu na czynnik jakobowski. Na przykład, jeśli weźmiemy pod uwagę zmianę zmiennych , wówczas funkcja staje się . Rozważmy teraz gęstość prawdopodobieństwa która odpowiada gęstości w odniesieniu do nowej zmiennej , gdzie wystarczające są oznaczenia faktu, że i mają różne gęstości. Obserwacje mieszczące się w zakresie , dla małych wartości , zostaną przekształcone w zakres $x = g(y)$ $f(x)$ $\tilde{f}(y) = f(g(y))$ $p_x(x)$ $p_y(y)$ $y$ $p_x(x)$ $p_y(y)$ $(x, x + \delta x)$ $\delta x$ $(y, y + \delta y$ ) gdzie $p_x(x)\delta x \simeq p_y(y)δy$ , a zatem $p_y(y) = p_x(x) |\frac{dx}{dy}| = p_x(g(y)) | g\prime (y) |$ .

Co to jest czynnik jakobowski i co dokładnie oznacza wszystko (może jakościowo)? Bishop mówi, że konsekwencją tej właściwości jest to, że pojęcie maksymalnej gęstości prawdopodobieństwa zależy od wyboru zmiennej. Co to znaczy?

Dla mnie to wszystko jest trochę niespodziewane (biorąc pod uwagę, że jest to rozdział wprowadzający). Byłbym wdzięczny za wskazówki, dzięki!

machine-learning probability ste
źródło

Pomocne może być „intuicyjne wyjaśnienie gęstości transformowanej zmiennej” . Jeśli chodzi o „jakobian”, prosimy przeszukać naszą stronę .

whuber

Świetny opis czynnika jakobińskiego znajduje się w samouczku wideo Khan Academy na temat wyznacznika jakobskiego. khanacademy.org/math/multivariable-calculus/…

JStrahl

Odpowiedzi:

Sugeruję przeczytanie rozwiązania pytania 1.4, które zapewnia dobrą intuicję.

W skrócie, jeśli masz dowolną funkcję i dwie zmienne i które są powiązane ze sobą funkcją , to możesz znaleźć maksimum funkcji albo bezpośrednio analizując : lub przekształcona funkcja : . Nic dziwnego, że i będą powiązane z każdym jako (tutaj założyłem, że . $f(x)$ $x$ $y$ $x = g(y)$ $f(x)$ $\hat{x} = argmax_x(f(x))$ $f(g(y))$ $\hat{y} = argmax_y(f(g(y))$ $\hat{x}$ $\hat{y}$ $\hat{x} = g(\hat{y})$ $\forall{y}: g^\prime(y)\neq0)$

Nie dotyczy to rozkładów prawdopodobieństwa. Jeśli masz rozkład prawdopodobieństwa i dwie losowe zmienne, które są powiązane ze sobą przez . Wtedy nie ma bezpośredniej zależności między i . Dzieje się tak ze względu na czynnik jakobowski, czynnik pokazujący, w jaki sposób objętość jest względnie zmieniana przez funkcję taką jak . $p_x(x)$ $x=g(y)$ $\hat{x} = argmax_x(p_x(x))$ $\hat{y}=argmax_y(p_y(y))$ $g(.)$

MajidL
źródło