Kiedy zacząłem czytać o filtrze Kalmana, pomyślałem, że jest to specjalny przypadek modelu ARIMA (a mianowicie ARIMA (0,1,1)). Ale tak naprawdę wydaje się, że sytuacja jest bardziej skomplikowana. Przede wszystkim ARIMA może być używana do przewidywania, a filtr Kalmana służy do filtrowania. Ale...
Mój zestaw danych (N.≈ 10 , 000N.≈10,000N \approx 10,000) ma zmienną zależną (DV), pięć niezależnych zmiennych „podstawowych” (P1, P2, P3, P4, P5) i jedną niezależną zmienną będącą przedmiotem zainteresowania (Q). Uruchomiłem regresje liniowe OLS dla następujących dwóch modeli: DV ~ 1 + P1 + P2 +...
Tytuł mówi wszystko. Rozumiem, że najmniejsze kwadraty i maksymalne prawdopodobieństwo dadzą taki sam wynik dla współczynników regresji, jeśli błędy modelu są zwykle rozkładane. Ale co się stanie, jeśli błędy nie są zwykle dystrybuowane? Dlaczego te dwie metody nie są już...
W artykule zatytułowanym Głębokie uczenie się i zasada wąskiego gardła informacji autorzy stwierdzają w sekcji II A), co następuje: Pojedyncze neurony klasyfikują tylko liniowo separowalne dane wejściowe, ponieważ mogą implementować tylko hiperpłaszczyzny w swojej przestrzeni wejściowej...
Wdrażam VAE i zauważyłem w Internecie dwie różne implementacje uproszczonej rozbieżności Gaussa KL dla jednej zmiennej. Oryginalna rozbieżność, jak tutaj, jest K.L.l o s s= log(σ2)σ1) +σ2)1+
Prawdopodobieństwo aksjomatyczne to funkcja która przypisuje liczbę rzeczywistą każdemu zdarzeniu jeżeli spełnia trzy podstawowe założenia (założenia Kołmogorowa):PPPP(A)P(A)P(A)AAA P(A)≥0 for everyAP(A)≥0 for everyAP(A) \geq 0 \ \text{for every} A P(Ω)=1P(Ω)=1P(\Omega) = 1 If A1,A2,⋯are...
Rozumiem, że regresja LASSO jest taka, że współczynniki regresji są wybrane w celu rozwiązania problemu minimalizacji: minβ. Y- Xβ∥2)2) s . t . ∥ β∥1≤ tminβ‖y-Xβ‖2)2) s.t.‖β‖1≤t\min_\beta \|y - X \beta\|_2^2 \ \\s.t. \|\beta\|_1 \leq t W praktyce odbywa się to za pomocą mnożnika Lagrange'a, co...
Gdy czytam stronę, większość odpowiedzi sugeruje, że w algorytmach uczenia maszynowego należy przeprowadzić weryfikację krzyżową. Jednak czytając książkę „Zrozumienie uczenia maszynowego” zobaczyłem, że istnieje ćwiczenie, które czasami lepiej nie używać weryfikacji krzyżowej. Jestem bardzo...
Przeglądam regresję liniową. Podręcznik Greene'a stanowi: Teraz oczywiście będą inne założenia dotyczące modelu regresji liniowej, takie jak . To założenie w połączeniu z założeniem liniowości (które w rzeczywistości definiuje ), nakłada strukturę na...
Mam pewne spostrzeżenia i chcę naśladować próbkowanie na podstawie tych spostrzeżeń. Rozważam tutaj model nieparametryczny, w szczególności używam wygładzania jądra, aby oszacować CDF na podstawie ograniczonych obserwacji, a następnie losowo dobieram wartości z uzyskanego CDF. Oto mój kod (chodzi o...
Zastanawiam się, czy prawdopodobieństwa warunkowe są unikalne dla bayesianizmu, czy też są bardziej ogólną koncepcją podzielaną przez kilka szkół myślenia wśród statystów / osób prawdopodobieństwa. Zakładam, że tak jest, ponieważ zakładam, że nikt nie może jest w pewnym sensie logiczne, więc...
W dokumentach AlphaGo Zero i AlphaZero DeepMind opisują dodawanie szumu Dirichleta do wcześniejszych prawdopodobieństw działań z węzła głównego (stanu płyty) w wyszukiwaniu drzewa Monte Carlo: Dodatkową eksplorację osiąga się, dodając szum Dirichleta do wcześniejszych prawdopodobieństw w węźle...
Chciałbym znaleźć kilka „prawdziwych przykładów” do nauczania statystyki bayesowskiej. Statystyka bayesowska pozwala formalnie włączyć wcześniejszą wiedzę do analizy. Chciałbym podać uczniom proste przykłady badaczy z prawdziwego świata, którzy uwzględniają wcześniejszą wiedzę w swoich analizach,...
tl; dr: Zaczynając od zestawu danych wygenerowanego pod wartością zerową, ponownie próbkowałem przypadki z zamianą i przeprowadzałem test hipotez na każdym zestawie danych ponownie próbkowanym. Te testy hipotez odrzucają zero w ponad 5% przypadków. W poniższej, bardzo prostej symulacji, generuję...
Przeczytałem kilka publikacji próbujących uzasadnić zastosowanie modelu efektów stałych z oświadczeniami w stylu „wybrano model efektów stałych, ponieważ heterogeniczność była niska”. Obawiam się jednak, że nadal może to być niewłaściwe podejście do analizy danych. Czy istnieją powody lub...
Jak mogę określić ilościowo dyspersję w wektorze liczby słów? Szukam statystyki, która będzie wysoka dla dokumentu A, ponieważ zawiera wiele różnych słów, które występują rzadko, i niska dla dokumentu B, ponieważ zawiera jedno słowo (lub kilka słów), które występują często. Mówiąc bardziej...
Załóżmy, że chcę próbkować z ciągłego rozkładu p ( x )p(x)p(x) . Jeśli mam wyrażenie ppp w formularzu p(x)=∑i=1∞aifi(x)p(x)=∑ja=1∞zajafaja(x)p(x) = \sum_{i=1}^\infty a_i f_i(x) ai⩾0,∑iai=1zaja⩾0,∑jazaja=1a_i \geqslant 0, \sum_i a_i= 1fifajaf_ippp Próbkowanie etykiety z...
Dowiedziałem się o regresji procesu Gaussa z filmów online i notatek z wykładów, rozumiem, że jeśli mamy zbiór danych z punktami to zakładamy, że dane są próbkowane z wymiarowego wielowymiarowego Gaussa. Więc moje pytanie dotyczy przypadku, gdy wynosi 10 milionów, czy regresja procesu Gaussa nadal...
Standardowe nauczanie mówi, że czułość i swoistość są właściwościami testu i są niezależne od rozpowszechnienia. Ale czy to nie tylko założenie? Zasady Harrisona dotyczące medycyny wewnętrznej, 19 edycja, mówią Od dawna twierdzono, że czułość i swoistość są parametrami dokładności testu...
Przeglądałem dokumentację sklearn, ale nie jestem w stanie zrozumieć celu tych funkcji w kontekście regresji logistycznej. Dla decision_functionniego mówi, że jego odległość między hiperpłaszczyznę i instancji testowej. w jaki sposób te konkretne informacje są przydatne? i jak to się odnosi...