Modele generatywne a dyskryminacyjne (w kontekście bayesowskim)

Jakie są różnice między modelami generatywnymi i dyskryminacyjnymi (dyskryminującymi) (w kontekście nauki i wnioskowania bayesowskiego)?

a co to jest z prognozowaniem, teorią decyzji lub uczeniem się bez nadzoru?

$\{(x_i,y_i)\}$$p(x,y)$$p(y|x)$$p(y|x)$

$(y)$$p(x|y)$

Mogą zdarzyć się przypadki, gdy jeden model jest lepszy od drugiego (np. Modele dyskryminacyjne zwykle mają się lepiej, jeśli masz dużo danych; modele generatywne mogą być lepsze, jeśli masz dodatkowe nieoznaczone dane). W rzeczywistości istnieją również modele hybird, które starają się wprowadzić to, co najlepsze z obu światów. Zobacz przykład tego artykułu: Zasadnicze hybrydy modeli generatywnych i dyskryminacyjnych

Jeden dodatek do powyższej odpowiedzi:

Ponieważ dyskryminator dba tylko o P (Y | X), podczas gdy generatywny dba jednocześnie o P (X, Y) i P (X), aby dobrze przewidzieć P (Y | X), model generatywny ma mniejszy stopień swobody w modelu w porównaniu do modelu dyskryminującego. Tak więc model generatywny jest bardziej niezawodny , mniej podatny na nadmierne dopasowanie, podczas gdy dyskryminacja jest odwrotnie.

To wyjaśnia powyższą odpowiedź

Mogą zdarzyć się przypadki, gdy jeden model jest lepszy od drugiego (np. Modele dyskryminacyjne zwykle mają się lepiej, jeśli masz dużo danych; modele generatywne mogą być lepsze, jeśli masz dodatkowe nieoznaczone dane).