W przypadku sieci neuronowych mamy uniwersalne twierdzenie aproksymacyjne, które stwierdza, że sieci neuronowe mogą aproksymować dowolną funkcję ciągłą na zwartym podzbiorze .
Czy istnieje podobny wynik dla drzew ze wzmocnieniem gradientu? Wydaje się to rozsądne, ponieważ można dodawać kolejne gałęzie, ale nie mogę znaleźć formalnej dyskusji na ten temat.
EDYCJA: Moje pytanie wydaje się bardzo podobne do Czy drzewa regresji mogą ciągle przewidywać? , choć może nie pytam dokładnie o to samo. Ale zobacz to pytanie w celu odpowiedniej dyskusji.
decision-trees
Imran
źródło
źródło
Odpowiedzi:
Tak - utwórz region dla każdego punktu danych (tj. Zapamiętaj dane treningowe).
Dlatego możliwe jest, aby drzewa ze wzmocnieniem gradientu pasowały do dowolnych danych treningowych, ale miałoby ograniczone uogólnienie do nowych danych.
źródło