Jaki jest najlepszy sposób na poznanie podstaw prawdopodobieństwa wymaganego dla algorytmów uczenia maszynowego?

13

Kilka lat temu odbyłem kurs prawdopodobieństwa na uniwersytecie, ale teraz przechodzę przez algorytmy uczenia maszynowego, a niektóre matematyki są po prostu oszałamiające.

Właśnie teraz uczę się algorytmu EM (maksymalizacja oczekiwań) i wydaje się, że istnieje duże rozróżnienie między tym, co jest wymagane, a tym, co mam.

Nie pytam o książkę ani stronę internetową, ale w jaki sposób można nauczyć się wystarczająco dużo z tych tematów, aby móc dokładnie zrozumieć algorytmy, które ich używają? Czy trzeba przejrzeć książkę i wykonać setki ćwiczeń? A może to przesada w tym sensie?

edytuj: Jeśli jest to niewłaściwa lokalizacja dla tego pytania, zagłosuj na migrację :)

Kawa
źródło
Nie wiedziałem o CV! Czy istnieje sposób na przeniesienie pytania do tego miejsca?
2
Głosowałem za migracją. :)
JM nie jest statystykiem
Najlepszym sposobem na nauczenie się czegoś jest rozbicie go na małe kawałki. Dlaczego nie zadać na tej stronie jednego lub dwóch konkretnych pytań lub koncepcji, które Cię niepokoją?
charles.y.zheng 08

Odpowiedzi:

6

Wiele książek i wprowadzenie online do uczenia maszynowego zawiera trochę informacji na temat ich prawdopodobnego prawdopodobieństwa w zakresie treści, dlatego zacznę od jednej lub kilku książek tego rodzaju. Z góry głowy mogę myśleć o statystycznym rozpoznawaniu wzorców (być może dlatego, że nauczyłem się tam EM) i elementach statystycznego uczenia się .

Moja prawdziwa rada to Samouczki dotyczące eksploracji danych statystycznych autorstwa Andrew Moore'a. To była strona, która wypełniła lukę, którą miałem przed rozpoczęciem doktoratu (pochodzącego z wykształcenia inżynierskiego). Wiem, że powiedziałeś, że nie pytasz o stronę internetową, ale zanim zdecydujesz, przejrzyj tam Prawdopodobieństwo dla Data Miners i inne slajdy prawdopodobieństwa. I spójrz na modele mieszanki Gaussa dla EM.

Czy trzeba przejrzeć książkę i wykonać setki ćwiczeń?

Nie wydaje mi się Obliczenia prawdopodobieństwa w uczeniu maszynowym zwykle skupiają się wokół kilku dobrze znanych ścieżek. Posiadanie silnej znajomości jedno- i wielowymiarowej dystrybucji Gaussa i studiowanie kilku wyjaśnień EM powinno doprowadzić cię dość daleko. I algebra liniowa. Będziesz potrzebował dużo algebry liniowej.

Muhammad Alkarouri
źródło
-3

Sztuczna inteligencja zyskała na znaczeniu w ostatnim dziesięcioleciu, przy czym wiele zależy od rozwoju i integracji AI w naszym codziennym życiu. Postęp, który poczyniła już sztuczna inteligencja, jest zdumiewający dzięki samojezdnym samochodom, diagnozie medycznej, a nawet zakładaniu ludzi w grach strategicznych, takich jak Go i Chess.

Przyszłość sztucznej inteligencji jest niezwykle obiecująca i nie jest to daleko od tego, kiedy będziemy mieli własnych robotycznych towarzyszy. Zmusiło to wielu programistów do pisania kodów i tworzenia programów dla AI i ML. Jednak nauka pisania algorytmów dla AI i ML nie jest łatwa i wymaga obszernej wiedzy programistycznej i matematycznej.

Matematyka odgrywa ważną rolę, ponieważ stanowi podstawę programowania dla tych dwóch strumieni.

Istnieje wiele powodów, dla których matematyka jest ważna w uczeniu maszynowym. Niektóre z nich są poniżej:

Wybór właściwego algorytmu, który obejmuje rozważenie dokładności, czasu szkolenia, złożoności modelu, liczby parametrów i liczby cech. Wybór ustawień parametrów i strategii sprawdzania poprawności. Identyfikacja niedopasowania i niedopasowania poprzez zrozumienie kompromisu odchylenia wstępnego. Szacowanie właściwego przedziału ufności i niepewności.

Jaki rodzaj matematyki jest wymagany do uczenia maszynowego?

Matematyka jest absolutnie niezbędna do nauki uczenia maszynowego lub sztucznej inteligencji. Głębsze zrozumienie pojęć i algorytmów w ML wymaga podstawowej wiedzy matematycznej.

Trzy główne teorie matematyczne: algebra liniowa, rachunek wielowymiarowy i teoria prawdopodobieństwa.

Algebra liniowa -

Notacja algebry liniowej jest używana w uczeniu maszynowym do opisywania parametrów i struktury różnych algorytmów uczenia maszynowego. To sprawia, że ​​algebra liniowa jest niezbędna do zrozumienia, w jaki sposób sieci neuronowe są łączone i jak działają.

Obejmuje takie tematy jak:

Skalary, wektory, macierze, tensory Normy macierzy Specjalne macierze i wektory Wartości własne i wektory własne Rachunek wielowymiarowy -

Służy to jako uzupełnienie części uczenia maszynowego. Służy do uczenia się na przykładach, aktualizowania parametrów różnych modeli i poprawy wydajności.

Obejmuje takie tematy jak:

Pochodne Całki Gradienty Operatory różniczkowe Optymalizacja wypukła Teoria prawdopodobieństwa -

Teorie są wykorzystywane do przyjmowania założeń dotyczących danych bazowych podczas projektowania tych algorytmów głębokiego uczenia lub AI. Ważne jest, abyśmy rozumieli kluczowe rozkłady prawdopodobieństwa,

Obejmuje takie tematy jak:

Elementy prawdopodobieństwa Rozkład zmiennych losowych Rozbieżność i oczekiwanie Specjalne zmienne losowe Jak szybko nauczyć się matematyki w uczeniu maszynowym?

Samo-startowy sposób uczenia się matematyki w nauce o danych polega na uczeniu się poprzez „robienie gówna”. Mimo to będziesz chciał poznać lub zrewidować leżącą u podstaw teorię z góry. Nie musisz czytać całego podręcznika, ale najpierw musisz poznać najważniejsze pojęcia.

Jako miękkie warunki wstępne zakładam podstawową wygodę z wykorzystaniem algebry liniowej / rachunku macierzowego (abyś nie utknął w notacji) i prawdopodobieństwo wprowadzenia.

Jeśli chcesz głęboko nauczyć się matematyki w uczeniu maszynowym, dostępnych jest n kursów online, takich jak:

Algebra liniowa Khan Academy, prawdopodobieństwo i statystyka, rachunek wielowymiarowy i optymalizacja.

Mathematical Foundation for Machine Learning i AI on eduonix

Dowiedz się uczenia maszynowego matematyki za udemy

Coding the Matrix: Linear Algebra with Computer Science Applications autorstwa Philip Klein, Brown University.

Książka Larry'ego Wassermana - Wszystkie statystyki: zwięzły kurs wnioskowania statystycznego.

Pamiętaj, że uczysz się najlepiej, robiąc, i niestety te kursy nie zawierają wystarczającej liczby zadań i zadań domowych

Polecam Mathematical Foundation For Machine Learning i AI - ten kurs nie jest pełnym programem nauczania matematyki; nie jest przeznaczony do zastąpienia edukacji matematycznej w szkole lub na studiach. Zamiast tego koncentruje się na kluczowych pojęciach matematycznych, które napotkasz podczas studiów nad uczeniem maszynowym.

Czego się nauczysz:

I wiele więcej……

Pod koniec tego kursu będziesz mieć nie tylko wiedzę do budowania własnych algorytmów, ale także pewność, że zaczniesz używać algorytmów do wykorzystania w kolejnych projektach.

Kurs zawiera również projekty i quizy, które pomogą utrwalić Twoją wiedzę na temat pojęć matematycznych.

Został zaprojektowany, aby wypełnić luki dla studentów, którzy pominęli te kluczowe pojęcia w ramach formalnej edukacji lub którzy potrzebują odświeżyć swoje wspomnienia po długiej przerwie w nauce matematyki.

Myślę, że ten kurs jest o wiele lepszy niż zainwestowanie 2-3 miesięcy w przeglądanie materiału na początku, a następnie zapominanie o połowie tego, czego się nauczyłeś, kiedy go spotkałeś.

Spróbuj zrozumieć przedstawione podstawowe pojęcia i zawsze pamiętaj, aby dobrze się bawić!

Richard Smith
źródło