Statystyczna teoria uczenia się VS obliczeniowa teoria uczenia się?

9

Jakie są zależności i różnice między statystyczną teorią uczenia się a obliczeniową teorią uczenia się ?

Czy dotyczą tego samego tematu? Rozwiąż te same problemy i użyj tych samych metod?

Na przykład ten pierwszy mówi, że jest to teoria przewidywania (regresja, klasyfikacja, ...).

machine-learning statistical-learning artificial-intelligence Tim
źródło
To jest naprawdę świetne pytanie. Chciałem zadać podobne pytanie, ale pomyślałem, że pociąga to za sobą te same właściwości pytania, które chciałem zadać. Widziałem wiele książek, wiele wyszukiwań w Google i stron Wikipedii. Myślę, że oba pytania są powiązane pod względem frazowania ich jako przykładowych pytań o złożoności, ale nie byłem w stanie znaleźć żadnych zasobów wskazujących na pracę wykonaną w tej dziedzinie przed PAC. Wszystkie książki, które widziałem, zaczynają się od PAC, co powoduje, że zastanawiam się, co wydarzyło się przed PAC.
Kirk Walla

Odpowiedzi:

5

Nauka obliczeniowa, a ściślej mówiąc, prawdopodobnie w przybliżeniu poprawna struktura ( PAC ), odpowiada na pytania takie jak: ile przykładów szkolenia potrzeba, aby uczący się z dużym prawdopodobieństwem nauczył się dobrej hipotezy? ile wysiłku obliczeniowego muszę nauczyć się z dużym prawdopodobieństwem takiej hipotezy? Nie dotyczy konkretnego klasyfikatora, z którym pracujesz. Chodzi o to, czego możesz, a czego nie możesz się nauczyć z niektórymi próbkami.

W statystycznej teorii uczenia się raczej odpowiadasz na pytania tego rodzaju: ile próbek treningowych klasyfikator błędnie zaklasyfikuje, zanim osiągnie dobrą hipotezę? tzn. jak ciężko jest przeszkolić klasyfikatora i jakie mam gwarancje jego działania?

Niestety nie znam źródła, w którym te dwa obszary zostały opisane / porównane w ujednolicony sposób. Mimo to, choć niewiele nadziei na to pomaga

jpmuc
źródło