Widzę, że obie funkcje są częścią metod eksploracji danych, takich jak regresory zwiększające gradient . Widzę, że to także osobne obiekty.
Jaka jest relacja między nimi w ogóle?
źródło
Widzę, że obie funkcje są częścią metod eksploracji danych, takich jak regresory zwiększające gradient . Widzę, że to także osobne obiekty.
Jaka jest relacja między nimi w ogóle?
Funkcja decyzyjna to funkcja, która pobiera zestaw danych jako dane wejściowe i podaje decyzję jako dane wyjściowe. Decyzja może zależeć od rodzaju problemu. Przykłady obejmują:
Zazwyczaj istnieje nieskończona liczba funkcji decyzyjnych dostępnych dla problemu. Jeśli na przykład jesteśmy zainteresowani oszacowaniem wzrostu szwedzkich mężczyzn na podstawie dziesięciu obserwacji , możemy użyć dowolnej z następujących funkcji decyzyjnych d ( x ) :
Jak zatem ustalić, z których z tych funkcji decyzyjnych skorzystać? Jednym ze sposobów jest użycie funkcji straty , która opisuje stratę (lub koszt) związaną ze wszystkimi możliwymi decyzjami. Różne funkcje decyzyjne będą prowadzić do różnych rodzajów błędów. Funkcja utraty mówi nam, jakiego rodzaju błędów powinniśmy się bardziej przejmować. Najlepszą funkcją decyzyjną jest funkcja, która przynosi najniższą oczekiwaną stratę . To, co należy rozumieć przez oczekiwaną stratę, zależy od tego ustawienia (w szczególności, czy mówimy o statystykach częstych czy bayesowskich ).
W podsumowaniu:
Funkcja straty jest minimalizowana, aby uzyskać model, który jest w pewnym sensie optymalny. Sam model ma funkcję decyzyjną, która służy do przewidywania.
Na przykład w klasyfikatorach SVM:
źródło