Dlaczego regresja logistyczna nie jest nazywana klasyfikacją logistyczną?

Ponieważ regresja logistyczna jest statystycznym modelem klasyfikacji zajmującym się zmiennymi zależnymi kategorycznie, dlaczego nie nazywa się to klasyfikacją logistyczną ? Czy nazwa „regresji” nie powinna być zarezerwowana dla modeli zajmujących się ciągłymi zmiennymi zależnymi?

Regresja logistyczna zdecydowanie nie jest algorytmem klasyfikacji. Jest to tylko algorytm klasyfikacji w połączeniu z regułą decyzyjną, która czyni dychotomią przewidywane prawdopodobieństwo wyniku. Regresja logistyczna jest modelem regresji, ponieważ szacuje prawdopodobieństwo przynależności do klasy jako (transformacja) funkcji wieloliniowej cech.

Frank Harrell opublikował wiele odpowiedzi na tej stronie, wyliczając pułapki związane z uznaniem regresji logistycznej za algorytm klasyfikacji. Pomiędzy nimi:

• Klasyfikacja jest decyzją . Aby podjąć optymalną decyzję, musisz ocenić funkcję użyteczności, co oznacza, że ​​musisz wziąć pod uwagę niepewność wyniku, tj. Prawdopodobieństwo. ≈
• Koszty błędnej klasyfikacji nie są jednakowe we wszystkich jednostkach.
• Nie używaj odcięć.
• Stosuj odpowiednie reguły punktacji.
• Problem polega na oszacowaniu ryzyka, a nie na klasyfikacji.

Jeśli dobrze pamiętam, kiedyś wskazał mi swoją książkę na temat strategii regresji, aby rozwinąć te (i więcej!) Punkty, ale wydaje mi się, że nie mogę znaleźć tego konkretnego postu.

Abstrakcyjnie regresja jest problemem obliczania warunkowego oczekiwania . Forma przyjęta przez to oczekiwanie różni się w zależności od założeń dotyczących sposobu generowania danych:$E[Y|X=x]$

• Zakładając, że (Y | X = x) jest normalnie rozłożony, daje klasyczną regresję liniową.
• Zakładając, że rozkład Poissona daje regresję Poissona.
• Zakładając, że rozkład Bernoulliego daje regresję logistyczną.

Termin „regresja” został również użyty bardziej ogólnie, w tym podejścia takie jak regresja kwantyli, która szacuje dane kwantyle .$(Y|X=x)$

Oprócz podanych już dobrych odpowiedzi, innym poglądem jest to, że regresja logistyczna przewiduje prawdopodobieństwa (które są wartością ciągłą ), które mają zakres od 0 do 1.