Czy istnieje matematyczna lub algorytmiczna definicja nadmiernego dopasowania? Często podawanymi definicjami są klasyczny dwuwymiarowy wykres punktów z linią przechodzącą przez każdy punkt, a krzywa utraty walidacji nagle rośnie. Ale czy istnieje matematycznie rygorystyczna...
Czytam książkę: Bishop, Rozpoznawanie wzorców i uczenie maszynowe (2006) który definiuje wykładniczą rodzinę jako rozkłady postaci (równanie 2.194): p(x|η)=h(x)g(η)exp{ηTu(x)}p(x|η)=h(x)g(η)exp{ηTu(x)}p(\mathbf x|\boldsymbol \eta) = h(\mathbf x) g(\boldsymbol \eta) \exp \{\boldsymbol...
Czy to prawda, że dla dwóch zmiennych losowych i ,B.AAABBB E(A∣B)=E(B∣A)E(A)E(B)?E(A∣B)=E(B∣A)E(A)E(B)?E(A\mid B)=E(B\mid
Miałem nadzieję, że ktoś może zaproponować argument wyjaśniający, dlaczego zmienne losowe Y1=X2−X1Y1=X2−X1Y_1=X_2-X_1 i Y2=X1+X2Y2=X1+X2Y_2=X_1+X_2 , o standardowym rozkładzie normalnym, są statystycznie niezależne. Dowód tego faktu łatwo wywodzi się z techniki MGF, ale uważam ją za wyjątkowo...
Niech i , . Czego oczekuje jako ?X1∼U[0,1]X1∼U[0,1]X_1 \sim U[0,1]Xi∼U[Xi−1,1]Xi∼U[Xi−1,1]X_i \sim U[X_{i - 1}, 1]i=2,3,...i=2,3,...i = 2, 3,...X1X2⋯XnX1X2⋯XnX_1 X_2 \cdots X_nn→∞n→∞n \rightarrow
Problem pojawił się wcześniej, ale chcę zadać konkretne pytanie, które będzie próbowało uzyskać odpowiedź, która wyjaśni (i sklasyfikuje): W „Asymptotics Poor Man” zachowuje się wyraźne rozróżnienie (a) sekwencja zmiennych losowych, która zbiega się w prawdopodobieństwie do stałej w...
Studiowałem matematykę dziesięć lat temu, więc mam doświadczenie matematyczne i statystyczne, ale to pytanie mnie zabija. To pytanie jest dla mnie trochę filozoficzne. Dlaczego statystycy opracowali wszelkiego rodzaju techniki do pracy z przypadkowymi macierzami? To znaczy, czy losowy wektor nie...
Studiuję statystyki i często spotykam formuły zawierające logi zawsze jestem zdezorientowany, jeśli powinienem interpretować to jako standardowe znaczenie log, tj. Podstawa 10, lub jeśli w statystyce log ogólnie przyjmuje się, że log naturalny ln. W szczególności studiuję estymację częstotliwości...
Zadano mi to pytanie pewnego dnia i nigdy wcześniej go nie rozważałem. Moja intuicja wynika z zalet każdego estymatora. Maksymalne prawdopodobieństwo występuje najlepiej, gdy jesteśmy pewni procesu generowania danych, ponieważ w przeciwieństwie do metody momentów wykorzystuje wiedzę o całej...
Dyskutowałem z moim profesorem statystycznym na temat „normalnych rozkładów”. Uważam, że aby naprawdę uzyskać rozkład normalny, trzeba mieć średnią = mediana = tryb, wszystkie dane muszą być zawarte pod krzywą dzwonową i idealnie symetryczne wokół średniej. Dlatego technicznie praktycznie nie ma...
Zastanawiałem się nad napisaniem posta na blogu na temat tej ciekawej analizy Kleinberga (2002), która bada trudność tworzenia klastrów. Kleinberg przedstawia trzy pozornie intuicyjne desiderata funkcji klastrowania, a następnie udowadnia, że taka funkcja nie istnieje. Istnieje wiele algorytmów...
Czytałem następujące uzasadnienie (z notatek kursowych cs229), dlaczego dzielimy surowe dane przez standardowe odchylenie: chociaż rozumiem, co mówi to wyjaśnienie, nie jest dla mnie jasne, dlaczego podzielenie przez odchylenie standardowe osiągnęłoby taki cel. Mówi się, że wszyscy są bardziej...
Odpowiadam „odpowiedź” na pytanie, które zadałem dwa tygodnie temu: Dlaczego wcześniejsza Jeffreys była przydatna? To było naprawdę pytanie (i nie miałem wtedy prawa do komentowania), więc mam nadzieję, że to będzie w porządku: W powyższym linku omówiono, że interesującą cechą wcześniejszego...
Zanim zadam pytanie, pozwólcie, że przedstawię wam nieco więcej informacji na temat tego, co wiem o statystykach, abyście lepiej rozumieli rodzaje zasobów, których szukam. Jestem studentem psychologii i jako taki korzystam ze statystyk prawie codziennie. Do tej pory znam dość szeroki wachlarz...
Śledzę AW van der Vaarta, statystyki asymptotyczne (1998). Mówi o eksperymentach statystycznych, twierdząc, że różnią się one od modelu statystycznego, ale nie definiuje żadnego z nich. Moje pytanie: Czym jest (1) eksperyment statystyczny, (2) model statystyczny i (3) jaki jest kluczowy składnik,...
(W przybliżeniu) słyszałem, że: workowanie jest techniką zmniejszania wariancji predyktora / estymatora / algorytmu uczenia się. Jednak nigdy nie widziałem formalnego matematycznego dowodu tego stwierdzenia. Czy ktoś wie, dlaczego jest to prawdą matematyczną? Wydaje się, że jest to tak...
Rozkład Kołmogorowa – Smirnowa jest znany z testu Kołmogorowa – Smirnowa . Jest to jednak także rozkład supremum mostu Browna. Ponieważ nie jest to dla mnie oczywiste, chciałbym prosić o intuicyjne wyjaśnienie tego przypadku. Referencje są również mile
Kto z was na tym forum używa „> R z pakietem wielordzeniowym , pakietami śniegowymi lub CUDA , więc do zaawansowanych obliczeń, które wymagają więcej mocy niż procesor stacji roboczej? Na jakim sprzęcie obliczasz te skrypty? W domu / pracy czy masz dostęp do centrum danych? Tło tych pytań jest...
(Pierwotnie opublikowane na MSE.) Widziałem wiele heurystycznych dyskusji na temat klasycznego centralnego twierdzenia granicznego mówiących o rozkładzie normalnym (lub dowolnym rozkładzie stabilnym) jako „atraktorze” w przestrzeni gęstości prawdopodobieństwa. Weźmy na przykład następujące zdania...
Uczę się statystyk dla zabawy i mam pewne wątpliwości co do wystarczających statystyk . Moje zamieszanie napiszę w formie listy: Jeśli rozkład ma parametrów, to czy będzie miał wystarczających statystyk?nnnnnnn Czy istnieje jakakolwiek bezpośrednia zgodność między wystarczającymi statystykami a...