Kompleksowy przegląd funkcji strat?

Próbuję uzyskać globalną perspektywę na niektóre z podstawowych pomysłów w uczeniu maszynowym i zastanawiałem się, czy istnieje kompleksowe podejście do różnych pojęć utraty (kwadrat, log, zawias, proxy itp.). Zastanawiałem się nad bardziej kompleksową, formalną prezentacją doskonałego postu Johna Langforda na temat Lant Function Semantics .

Tutorial na Energy-Based Learning przez LeCun et al. może ci tam pomóc. Opisują szereg funkcji strat i omawiają, co czyni je „dobrymi lub złymi” dla modeli opartych na energii.

Cóż, jest to i tamto . Dwa artykuły Cramera i innych omawiające straty w kontekście algorytmów uczenia się online.

Funkcja utraty określa problem. To może być cokolwiek. Na przykład, możesz również ukarać wykorzystany czas i miejsce procesora.

W uczeniu się przez wzmocnienie funkcja straty jest nieznaną funkcją niedeterministyczną. Nie można go przedefiniować bez zmiany problemu.

Wiem, że to pytanie jest trochę przestarzałe, ale interesuje mnie obecnie.

Bardzo dobrym opracowaniem na temat funkcji wypukłych strat i spójności klasyfikatora jest „ Zachowanie statystyczne i spójność metod klasyfikacji opartych na minimalizacji ryzyka wypukłości ” autorstwa Tong Zhanga.