Jaka jest różnica między funkcją straty a funkcją błędu?

31

Czy termin „strata” jest synonimem „błędu”? Czy istnieje różnica w definicji?

Jakie jest również pochodzenie terminu „strata”?

NB: Wspomnianej tu funkcji błędu nie należy mylić z normalnym błędem.

Dan Kowalczyk
źródło
1
Moje pytanie jest związane z tym pytaniem, ale nie uważam go za zadowalające stats.stackexchange.com/questions/179026/...
Dan Kowalczyk
1
Byłoby nam pomocne, gdybyś mógł wskazać, co uważasz za niezadowalające w powiązanym wątku.
S. Kolassa - Przywróć Monikę
1
Nie odnosi się w szczególności do funkcji błędu i koncentruje się głównie na rodzajach strat
Dan Kowalczyk

Odpowiedzi:

57

W kontekście modelu predykcyjnego lub wnioskowania termin „błąd” ogólnie odnosi się do odchylenia od wartości rzeczywistej od prognozy lub oczekiwań tej wartości. Jest to całkowicie determinowane przez mechanizm prognozowania i faktyczne zachowanie obserwowanych wielkości. „Utrata” jest skwantyfikowaną miarą tego, jak źle jest uzyskać błąd o określonym rozmiarze / kierunku, na który wpływ mają negatywne konsekwencje wynikające z niedokładnego przewidywania.

Funkcja błędu mierzy odchylenie obserwowalnej wartości od prognozy, podczas gdy funkcja straty działa na błędzie w celu kwantyfikacji negatywnej konsekwencji błędu. Na przykład w niektórych kontekstach uzasadnione może być stwierdzenie, że występuje kwadratowa utrata błędu , przy czym negatywną konsekwencję błędu określa się ilościowo jako proporcjonalną do kwadratu błędu. W innych kontekstach możemy być bardziej negatywnie dotknięci błędem w danym kierunku (np. Fałszywie dodatni vs. fałszywie ujemny) i dlatego możemy przyjąć niesymetryczną funkcję straty.

Funkcja błędu jest obiektem czysto statystycznym, podczas gdy funkcja straty jest przedmiotem teoretycznym, który wprowadzamy w celu oszacowania negatywnych konsekwencji błędu. Ten drugi jest wykorzystywany w teorii decyzji i ekonomii (zwykle poprzez jego przeciwieństwo - kardynalną funkcję użyteczności).


Przykład: Jesteś kryminalistą prowadzącym nielegalny salon zakładów dla Mobu. Każdego tygodnia musisz wpłacać 50% zysków szefowi mafii, ale skoro prowadzisz to miejsce, szef polega na tobie, aby zapewnić prawdziwe rozliczenie zysków. Jeśli masz dobry tydzień, być może uda ci się wytrącić go z ciasta, niedostatecznie reprezentując swój zysk, ale jeśli przepłacasz szefowi, w stosunku do tego, co podejrzewa, że ​​jest prawdziwym zyskiem, jesteś trupem. Więc chcesz przewidzieć, ile on spodziewa się, i odpowiednio zapłacić. Idealnie dasz mu dokładnie to, czego się spodziewa, i zatrzymasz resztę, ale możesz potencjalnie popełnić błąd prognozy i zapłacić mu za dużo lub (tak!) Za mało.

π=$40,00012π=$20,000θ=$15,000θ^

Error(θ^,θ)=θ^θ,

oraz (jeśli założymy, że strata ma charakter liniowy w pieniądzu), twoją funkcją straty jest:

Loss(θ^,θ)={if θ^<θ(sleep wit' da fishes)θ^πif θ^θ(live to spend another week)

Jest to przykład asymetrycznej funkcji straty (rozwiązanie omówione w komentarzach poniżej), która znacznie różni się od funkcji błędu. Asymetryczny charakter funkcji straty w tym przypadku podkreśla katastrofalny wynik w przypadku niedoszacowania nieznanego parametru.

Przywróć Monikę
źródło
2
Bardzo jasne, dziękuję za odpowiedź. Przyjmę odpowiedź, gdy inni będą mieli szansę.
Dan Kowalczyk
4
Ten nowy przykład wydaje się pochodzić z osobistego doświadczenia ...
Dan Kowalczyk
2
Ten przykład jest wspaniały.
Greenstick
Chociaż przykład jest zabawny, nieskończona strata jest dość bez znaczenia. Optymalnym rozwiązaniem w tym przypadku byłoby zawsze przekazanie szefowi wszystkich zarobionych pieniędzy. Sugeruję zmianę tego, aby odpowiedź była naprawdę doskonała.
Alex bGoode
1
Wygląda na to, że na tym przykładzie są różne poglądy, więc na razie pozostawię go takim, jaki jest, ale jestem otwarty na edycję, jeśli okaże się niepopularny. Powiedziawszy to, celem w niniejszym kontekście jest pokazanie OP przykładowi wysoce asymetrycznej funkcji straty, aby podkreślić różnicę z funkcją błędu. Fakt, że optymalnym rozwiązaniem jest przekazanie szefowi wszystkich pieniędzy, nie czyni przykładu „bez znaczenia” - oznacza to jedynie, że optymalnym rozwiązaniem jest przekazanie szefowi wszystkich pieniędzy.
Przywróć Monikę