Wprowadzenie do uczenia maszynowego dla matematyków

23

W pewnym sensie jest to mój krzyż z strony mat.stackexchange i mam wrażenie, że ta strona może zapewnić szerokie grono odbiorców.

Szukam matematycznego wprowadzenia do uczenia maszynowego. W szczególności wiele literatury, która można znaleźć, jest stosunkowo nieprecyzyjna, a wiele stron wydaje się bez żadnej zawartości.

Jednak zaczynając od takiej literatury, odkryłem kursy Coursera od Andrew Ng, książkę Bishopa o rozpoznawaniu wzorów i wreszcie książkę Smoli. Niestety książka Smoli jest tylko w stanie roboczym. W książce Smoli można znaleźć nawet dowody, które do mnie przemawiają. Książka Bishopa jest już całkiem dobra, ale brakuje pewnej dyscypliny.

W skrócie: szukam książki takiej jak Smola, to znaczy tak precyzyjnej i rygorystycznej, jak to możliwe, wykorzystującej podstawy matematyczne (choć krótkie wprowadzenie jest oczywiście OK).

Jakieś rekomendacje?

machine-learning references pac-learning Quickbeam2k1
źródło
1
W przyszłości proszę nie krzyżować.
Momo,
Wygląda na to, że pytanie jest niedokończone - łamie się po „i”.
JW
przepraszam, jakoś moja edycja zniknęła.
Quickbeam2k1
1
możesz wyjaśnić, dlaczego matematyk chce się uczyć o uczeniu maszynowym (aby znaleźć pracę jako specjalista
ds.
1
w przypadku nauki o danych twierdzę, że potrzebujesz podstawowej wiedzy statystycznej (np. regresji liniowej / logistycznej), projektowania eksperymentalnego - np. testowania ab itp., a ponadto zrozumienia technik systemu rekomendującego
seanv507

Odpowiedzi:

9

Do tego, co opisujesz, gorąco polecam „Podstawy uczenia maszynowego” Mohri i in. Jest to tekst licencjacki, ale dla naprawdę dobrych studentów. Jest czytelny i jest to jedyne miejsce, w którym znalazłem coś, co nazwałbym matematyczną definicją uczenia maszynowego (pac i słabe pac). Warto przeczytać tylko z tego powodu. Mam też doktorat z matematyki. Znam wiele książek wymienionych powyżej. Szczególnie podoba mi się ESL w szerokim spektrum technik i pomysłów, ale jest to książka statystyczna z dużą ilością matematyki.

meh
źródło
1
Przy okazji powiedziano mi, że Schapire w swojej pracy udowodnił, że słaby PAC implikuje PAC. Jego dowód sprowadza się do techniki wzmocnienia, więc jest to dobry przykład tego, jak teoretyczne pytanie doprowadziło do bardzo praktycznego wyniku.
meh
Dziękuję za twoje uwagi. Myślę, że będę pracować z ESL później po pracy z książkami Mohri i Shalev-
Shwartz
12

Poleciłbym elementy uczenia statystycznego (darmowy plik PDF). Ma wystarczającą matematykę i dobre wprowadzenie do wszystkich odpowiednich technik - wraz z pewnymi spostrzeżeniami na temat tego, dlaczego techniki działają (a kiedy nie).

Również wprowadzenie do uczenia statystycznego (co jest bardziej praktyczne - jak to zrobić w języku R ). Ma kurs nauki statystycznej ; możesz znaleźć wykłady na YouTube (i ponownie bezpłatny PDF).

seanv507
źródło
3
To bardzo miła rekomendacja. Oprócz tego sugeruję „Uczenie się z danych” od Yaser S. Abu-Mostafa. Jest wysoce teoretyczny, ale bardzo jasno wyjaśnia takie tematy, jak wykonalność uczenia się i wymiar VC. Są filmy i slajdy dostępne online .
tiagotvv
Popieram sugestię „Uczenie się z danych” Yasera S. Abu-Mostafa. Książka jest bardzo krótka, ale pełna cennych informacji. W rzeczywistości duży nacisk położono na wykonalność uczenia się i złożoność.
Vladislavs Dovgalecs
7

Prawdopodobnie spodoba ci się nauka z jądrem Schölkopf i Smoli. Większość prac Schölkopf jest matematycznie rygorystyczna.

To powiedziawszy, prawdopodobnie lepiej jest czytać prace naukowe niż podręczniki. Prace naukowe zawierają pełne pochodne i dowody zbieżności, granice wydajności itp., Które bardzo często nie są zawarte w podręcznikach. Dobrym miejscem do rozpoczęcia jest Journal of Machine Learning , który jest bardzo ceniony i ma w pełni otwarty dostęp. Polecam również przebieg konferencji takich jak ICML , NIPS , COLT i IJCNN .

Peter Mortensen
źródło
dzięki za wskazówki z dziennika. Obawiam się jednak, że jak dotąd czasopisma są dla mnie zbyt zaawansowane. Niemniej jednak ta migracja będzie cennym źródłem na przyszłość.
Quickbeam2k1