Co oznacza „wariacyjny”?

Czy użycie „wariacyjnego” zawsze odnosi się do optymalizacji poprzez wnioskowanie wariacyjne?

Przykłady:

• „Automatyczny enkoder wariacyjny”
• „Wariacyjne metody bayesowskie”
• „Grupa renormalizacji wariantów”

Oznacza to stosowanie wnioskowania wariacyjnego (przynajmniej dla pierwszych dwóch).

Krótko mówiąc, jest to metoda przybliżenia maksymalnego prawdopodobieństwa, gdy gęstość prawdopodobieństwa jest skomplikowana (a zatem MLE jest trudne).

Wykorzystuje Evidence Lower Bound (ELBO) jako proxy do ML:

$log(p(x)) \geq \mathbb{E}_q[log(p, Z)] - \mathbb{E}_q[log(q(Z))]$

$q$$Z$

$q$

Jest ładny samouczek na temat wnioskowania wariacyjnego autorstwa Davida Blei, który możesz sprawdzić, jeśli chcesz bardziej konkretny opis.

EDYTOWAĆ:

$KL(q, p)$