Uczyłem się o sieciach neuronowych i SVM. Samouczki, które przeczytałem, podkreślają, jak ważne jest jądro dla SVM. Bez funkcji jądra maszyny SVM są tylko liniowym klasyfikatorem. Dzięki kernelizacji SVM mogą również zawierać funkcje nieliniowe, co czyni je bardziej zaawansowanym...
Czy algorytm sztucznej sieci neuronowej można wyrazić w kategoriach operacji zmniejszania mapy? Interesuję się również bardziej ogólnie metodami paralelizacji stosowanymi do ANN i ich zastosowaniem do przetwarzania w chmurze. Sądzę, że jedno podejście wymagałoby uruchomienia pełnego ANN na każdym...
Dlaczego początkowe wagi sieci neuronowych są inicjowane jako liczby losowe? Czytałem gdzieś, że ma to na celu „przełamanie symetrii”, a to przyspiesza naukę sieci neuronowej. W jaki sposób przełamanie symetrii sprawia, że uczy się szybciej? Czy zainicjowanie wag na 0 nie byłoby lepszym...
W przypadku mojego dyplomu CS miałem większość „standardowych” podstaw matematycznych: Rachunek różniczkowy, całkowy, liczby zespolone Algebra: prawie wszystkie koncepcje aż do pól. Teoria liczb: XGCD i podobne rzeczy, głównie do kryptografii. Algebra liniowa: do wektorów własnych / wartości...