Teoretyczne pytania dotyczące uczenia maszynowego, w szczególności obliczeniowej teorii uczenia się, w tym teorii uczenia algorytmicznego, uczenia się PAC i wnioskowania bayesowskiego
Mój doktorat jest w czystej matematyce i przyznaję, że niewiele wiem (tj. nic) na temat teoretycznej CS. Jednak zacząłem badać opcje pozaakademickie w mojej karierze i zapoznałem się z uczeniem maszynowym, natknąłem się na takie stwierdzenia, jak: „Nikt nie rozumie, dlaczego sieci neuronowe...
Prowadzę kurs zaawansowanych algorytmów i chciałbym uwzględnić niektóre tematy związane z uczeniem maszynowym, które zainteresują moich studentów. W związku z tym chciałbym usłyszeć opinie ludzi na temat najbardziej interesujących / największych wyników algorytmicznych w uczeniu maszynowym....
Wiemy, że (patrz np. Twierdzenia 1 i 3 z [1]), z grubsza mówiąc, w odpowiednich warunkach, funkcje, które mogą być skutecznie obliczone przez maszynę Turinga w czasie wielomianowym („wydajnie obliczalne”), mogą być wyrażone przez wielomianowe sieci neuronowe z rozsądnymi rozmiarami, a zatem można...
Spójrzmy w przyszłość za 30 lat. Bądźmy optymistami i załóżmy, że obszary związane z uczeniem maszynowym rozwijają się tak szybko, jak to, co widzieliśmy w ciągu ostatnich 10 lat. Byłoby świetnie, ale jaka byłaby rola tradycyjnej algorytmiki w takiej przyszłości? Tutaj przez „tradycyjną...
Podczas testowania właściwości wykresu algorytm wysyła zapytanie do wykresu docelowego o obecność lub brak krawędzi i musi ustalić, czy cel ma określoną właściwość, czy też jest -far od posiadania tej właściwości. (Algorytm może zostać poproszony o powodzenie z błędem 1-stronnym lub 2-stronnym.)...
Oto streszczenie problemu nauki online / bandyty, nad którym pracowałem latem. Nie widziałem wcześniej takiego problemu i wygląda całkiem interesująco. Jeśli znasz jakieś powiązane prace, byłbym wdzięczny za referencje. Problem Ustawienie dotyczy wielorękich bandytów. Masz N. broni. Każde ramię...
Obecnie studiuję matematykę. Jednak nie sądzę, żebym chciał zostać zawodowym matematykiem w przyszłości. Zastanawiam się nad wykorzystaniem mojej wiedzy z matematyki do badań nad sztuczną inteligencją. Nie jestem jednak pewien, ile kursów matematyki powinienem odbyć. (I które kursy teorii CS...
Czy możliwe jest algorytmiczne testowanie, czy liczba obliczalna jest liczbą wymierną czy całkowitą? Innymi słowy, możliwe byłoby dla biblioteki, który implementuje numery obliczalne, aby zapewnić funkcje isIntegerlub isRational? Zgaduję, że nie jest to możliwe i że jest to w jakiś sposób związane...
My wiemy (teraz około 40 lat, dzięki Adleman, Bennet Gill), że włączenie BPP ⊆⊆\subseteq P / poly, i jeszcze silniejszy BPP / poli ⊆⊆\subseteq P / poli trzymaj. „/ Poly” oznacza, że pracujemy nierównomiernie (osobny obwód dla każdej długości wejściowej nnn ), podczas gdy P bez tego „/ poly”...
tło Funkcje w to PAC poznawalny w quasipolomomialnym czasie z klasycznym algorytmem, który wymaga O ( 2 l o g ( n ) O ( d ) ) losowo wybranych zapytań do poznania obwodu o głębokości d [1]. Jeśli nie ma algorytmu faktoryzacji 2 n o ( 1 ), jest to optymalne [2]. Oczywiście na komputerze kwantowym...
Edycja: Ponieważ od tygodnia nie otrzymałem żadnych odpowiedzi / komentarzy, chciałbym dodać, że cieszę się, że słyszę cokolwiek o problemie. Nie pracuję w okolicy, więc nawet jeśli jest to prosta obserwacja, mogę tego nie wiedzieć. Pomocny byłby nawet komentarz typu „Pracuję w okolicy, ale nie...
Dzięki uniwersalnemu twierdzeniu o aproksymacji wiadomo, że sieć neuronowa z nawet jedną ukrytą warstwą i dowolną funkcją aktywacji może aproksymować dowolną funkcję ciągłą. Jakie są inne modele, które są również uniwersalnymi aproksymatorami
Wykazano, że propagacja przekonań jest bardzo skuteczną metodą dzięki badaniom w probabilistycznych modelach graficznych. Jednak nie wiem nic o BP, które byłoby porównywalne z metodami MCMC, w których możemy mieć w pełni wielomianowe losowe schematy aproksymacji (FPRAS) dla problemów z #...
Algorytmy genetyczne ewoluują w mniejszej liczbie pokoleń z większą populacją, ale także obliczanie pokolenia trwa dłużej. Czy istnieją jakieś wytyczne dotyczące równoważenia tych dwóch czynników, aby jak najszybciej znaleźć realne rozwiązanie? Czy to najlepsze miejsce na...
I przypisany Moi studenci problem znalezienia trójkąt spójne z kolekcją punktów w R 2 , oznaczonego ± 1 . (Trójkąt T jest zgodny z próbką oznaczoną, jeśli T zawiera wszystkie punkty dodatnie i żaden z punktów ujemnych; z założenia próbka przyjmuje co najmniej 1 spójny...
Algorytm testowania dystrybucji dla właściwości dystrybucji P (która jest tylko pewnym podzbiorem wszystkich dystrybucji w ciągu [n]) ma dostęp do próbek zgodnie z pewną dystrybucją D i jest zobowiązany do podjęcia decyzji (whp), czy lub d ( D , P ) > ϵ ( d tutaj jest zwykle odległością ℓ 1 )....
Zadałem to pytanie w sprawdzonych krzyżowo pytaniach i odpowiedziach, ale wydaje się, że jest ono bardziej związane z CS niż ze statystykami. Czy możesz podać mi przykłady algorytmów uczenia maszynowego, które uczą się na podstawie właściwości statystycznych zestawu danych, a nie samych...
Powiedzmy, że mamy jednowarstwową sieć neuronową z przekazywaniem danych z k wejściami i jednym wyjściem. Oblicza funkcję z , dość łatwo zauważyć, że ma ona co najmniej taką samą moc obliczeniową jak A C 0 . Dla zabawy nazwiemy zestaw funkcji obliczalnych przez jednowarstwową sieć neuronową „ N e u...
Jakie są niektóre rzeczywiste problemy rozwiązane za pomocą algorytmu genetycznego? Jaki jest problem? Jakiego testu sprawności używa się do rozwiązania tego
Tło: W uczeniu maszynowym często pracujemy z modelami graficznymi reprezentującymi funkcje gęstości prawdopodobieństwa o wysokim wymiarze. Jeśli odrzucimy ograniczenie, które gęstość całkuje (sumuje) do 1, otrzymujemy nienormalizowaną funkcję energii o strukturze grafowej . Załóżmy, że mamy taką...