Dlaczego warto korzystać z skalowanie Platta?

Aby skalibrować poziom ufności do prawdopodobieństwa w nadzorowanym uczeniu się (powiedzmy, aby odwzorować pewność z SVM lub drzewa decyzyjnego przy użyciu danych z nadpróbkowanych danych) jedną z metod jest zastosowanie skalowania Platta (np. Uzyskiwanie skalibrowanych prawdopodobieństw z wzmocnienia ).

Zasadniczo używa się regresji logistycznej do mapowania na . Zmienna zależna jest prawdziwą etykietą, a predyktorem jest pewność z nieskalibrowanego modelu. Nie rozumiem zastosowania zmiennej docelowej innej niż 1 lub 0. Metoda wymaga utworzenia nowej „etykiety”:$[-\infty;\infty]$$[0;1]$

Aby uniknąć nadmiernego dopasowania do zestawu pociągów sigmoidalnych, stosuje się model poza próbą. Jeśli w zestawie pociągów znajdują się przykłady dodatnie i przykłady ujemne , dla każdego przykładu treningowego Kalibracja Platt wykorzystuje wartości docelowe i (odpowiednio odpowiednio 1 i 0), gdzie $N_+$$N_-$$y_+$$y_-$

$$y_+=\frac{N_++1}{N_++2};\quad\quad y_-=\frac{1}{N_-+2}$$

Co ja nie rozumiem, jak ten nowy cel jest przydatna. Regresja logistyczna jest po prostu nie zamierza traktować jako zmienną zależną binarnej etykiety (niezależnie od tego, co podano etykiety)?

AKTUALIZACJA:

Przekonałem się, że w SAS zmiana zależności z na coś innego wróciła do tego samego modelu (za pomocą ). Być może mój błąd lub może brak wszechstronności SAS. Byłem w stanie zmienić model w R. Jako przykład:$1/0$PROC GENMOD

data(ToothGrowth) 
attach(ToothGrowth) 

  # 1/0 coding 
dep          <- ifelse(supp == "VC", 1, 0) 
OneZeroModel <- glm(dep~len, family=binomial) 
OneZeroModel 
predict(OneZeroModel) 

  # Platt coding 
dep2           <- ifelse(supp == "VC", 31/32, 1/32) 
plattCodeModel <- glm(dep2~len, family=binomial) 
plattCodeModel 
predict(plattCodeModel) 

compare        <- cbind(predict(OneZeroModel), predict(plattCodeModel)) 

plot(predict(OneZeroModel), predict(plattCodeModel))

Proponuję zajrzeć na stronę wikipedii dotyczącą regresji logistycznej . Stwierdzono, że w przypadku binarnej zależnej regresji logistycznej regresja mapuje predyktory na prawdopodobieństwo wystąpienia zmiennej zależnej. Bez jakiejkolwiek transformacji prawdopodobieństwo zastosowane do treningu modelu wynosi 1 (jeśli y jest dodatnie w zestawie treningowym) lub 0 (jeśli y jest ujemne).

$p_i=\frac{1}{(1+exp(A*f_i+B))}$$f_i$$y_+$$y_{-}$

Inną metodą unikania nadmiernego dopasowania, którą uznałem za przydatną, jest dopasowanie modelu jednoczynnikowej regresji logistycznej do pominiętego wyjścia SVM, które można efektywnie aproksymować przy użyciu zakresu Span .

Jeśli jednak chcesz, aby klasyfikator generował oszacowania prawdopodobieństwa członkostwa w klasie, lepiej byłoby użyć regresji logistycznej jądra, która ma to zrobić bezpośrednio. Wyjście SVM jest przeznaczone do dyskretnej klasyfikacji i niekoniecznie zawiera informacje wymagane do dokładnego oszacowania prawdopodobieństw od konturu p = 0,5.

Klasyfikatory procesu Gaussa są kolejną dobrą opcją, jeśli chcesz oparty na jądrze klasyfikator probabilistyczny.