Jaki jest najlepszy wprowadzający podręcznik statystyki bayesowskiej?

Jaki jest najlepszy podręcznik wprowadzający do statystyki bayesowskiej?

Poproszę jedną książkę na odpowiedź.

John Kruschke wydał w połowie 2011 roku książkę zatytułowaną Doing Bayesian Data Analysis: A Tutorial with R and BUGS . (Drugie wydanie zostało wydane w listopadzie 2014: Doing Bayesian Data Analysis, drugie wydanie: A Tutorial with R, JAGS i Stan .) To naprawdę wprowadzenie. Jeśli jednak chcesz przejść od statystyk częstych do Bayesa, szczególnie z modelowaniem wielopoziomowym, polecam Gelman i Hill.

John Kruschke ma również stronę internetową książki, która zawiera wszystkie przykłady w książce BŁĘDY i JAGS. Jego blog na temat statystyki bayesowskiej również łączy się z książką.

Moim ulubionym jest „Bayesian Data Analysis” Gelmana i in.

Analiza statystyczna została wydana zaledwie kilka tygodni temu i dlatego wciąż ją czytam, ale uważam, że jest to bardzo miły i świeży dodatek do naprawdę wprowadzających książek o statystyce Bayesian. Autor stosuje podobne podejście, jakie zastosował John Kruschke w swoich książkach dla szczeniąt ; bardzo szczegółowe, szczegółowe wyjaśnienia, ładne przykłady pedagogiczne, stosuje także podejście obliczeniowe, a nie matematyczne.

Wykłady z YouTube i inne materiały są również dostępne tutaj .

Kod przeniesiony do Python / PyMC3

Kolejnym głosem dla Gelmana i wsp., Ale dla mnie bliską sekundą - jako perswazji uczenia się przez działanie - jest „Bayesowskie obliczenie Jima Alberta ” .

Sivia and Skilling, Analiza danych: a Bayesian tutorial (2ed) 2006 246p 0198568320 books.goo :

Wykłady statystyczne były dla wielu pokoleń źródłem dezorientacji i frustracji. Ta książka próbuje zaradzić tej sytuacji, wyjaśniając logiczne i jednolite podejście do całego tematu analizy danych. Ten tekst ma służyć jako poradnik dla starszych studentów i naukowców w dziedzinie nauk ścisłych i inżynierii ...

Nie znam jednak innych zaleceń.

Na wstępie poleciłbym probabilistyczne programowanie i metody bayesowskie dla hakerów Cam Davidson-Pilon, dostępny bezpłatnie online.

Z jego opisu:

Wprowadzenie do metod bayesowskich i programowania probabilistycznego z punktu widzenia obliczeń / zrozumienia, matematyki-drugiego.

Jest bardzo wizualny, przycina się do wartości, a później wypełnia drobne szczegóły, ma wiele przykładów, ma interaktywny kod (w Notatniku IPython).

Całkowicie polecam zabawną polemikę „Teorii prawdopodobieństwa: logiki nauki” autorstwa ET Jaynesa.

Jest to tekst wprowadzający w tym sensie, że nie wymaga (a nawet preferuje) wcześniejszej znajomości statystyki, ale w końcu wykorzystuje dość wyrafinowaną matematykę. W porównaniu z większością innych udzielonych odpowiedzi, ta książka nie jest tak praktyczna ani lekkostrawna, ale stanowi filozoficzną podstawę dla tego, dlaczego chcesz zastosować metody bayesowskie i dlaczego nie stosować metod częstych. Jest wprowadzający w sposób historyczny i filozoficzny, ale nie pedagogiczny.

Jestem inżynierem elektrykiem, a nie statystykiem. Spędziłem dużo czasu, aby przejść przez Gelmana, ale nie sądzę, aby można było mówić o Gelmanie jako wprowadzającym. Mój profesor bayesian-guru z Carnegie Mellon zgadza się ze mną w tej sprawie. posiadanie minimalnej wiedzy na temat statystyki oraz R i błędów (jako łatwego sposobu na zrobienie czegoś przy pomocy statystyki bayesowskiej). Przeprowadzanie analizy danych bayesowskich: samouczek z R i BŁĘDAMI to niesamowity początek. Możesz łatwo porównać wszystkie oferowane książki według okładki!

5 lat później aktualizacja: Chcę dodać, że być może jednym z głównych sposobów szybkiego uczenia się (40 minut) jest przejrzenie dokumentacji narzędzia opartego na graficznym interfejsie Bayesian Net, takiego jak Netica 2 . Zaczyna się od podstaw, prowadzi użytkownika przez kolejne etapy budowania sieci w oparciu o sytuację i dane oraz jak uruchamiać własne pytania tam iz powrotem, aby „zdobyć!”.

Nie skupia się wyłącznie na statystykach bayesowskich, więc brakuje mu metodologii, ale teoria informacji, wnioskowanie i algorytmy uczenia Davida MacKaya pozwoliły mi intuicyjnie lepiej zrozumieć statystyki bayesowskie niż inne - większość robi to całkiem nieźle, ale czułem, że MacKay wyjaśnił, dlaczego lepszy.

Wszystkie książki Gelmana są doskonałe, ale niekoniecznie wprowadzające, ponieważ zakładają, że znasz już niektóre statystyki. Dlatego są one wstępem do bayesowskiego sposobu prowadzenia statystyk, a nie do statystyk w ogóle. Jednak nadal dawałbym im kciuki do góry.

Jako książkę ze statystykami wprowadzającymi / ekonometrią, która przyjmuje perspektywę bayesowską, poleciłbym Bayesian Econometrics Gary'ego Koopa .

„ Bayesian Core: A Practical Approach to Computational Bayesian Statistics ” Marin i Robert, Springer-Verlag (2007).

„Dlaczego?”: Autor wyjaśnia dlaczego wybór bayesowski i jak bardzo dobrze. Jest to praktyczna książka, ale napisana przez jednego z najlepszych żyjących myślicieli bayesowskich. To nie jest wyczerpujące. Inne książki mają ten cel. Podejmuje kilka tematów, które są istotne, przydatne i oświetlają podstawy.

O „wyborze”: jeśli naprawdę chcesz zagłębić się w fundacje bayesowskie, Xi'an „The Bayesian Choice” jest jasny, głęboki, niezbędny.

Moim ulubionym pierwszym tekstem licencjackim do statystyki bayesowskiej jest Bolstad, Wprowadzenie do statystyki bayesowskiej . Jeśli szukasz czegoś na poziomie magisterskim, będzie to zbyt elementarne, ale dla kogoś, kto jest nowy w statystyce, jest to idealne rozwiązanie.

Nie wiem, dlaczego nikt nie wspomniał o bardzo wprowadzającej książce o Bayesian:

Książka ma bezpłatną wersję PDF. Książka oferuje wystarczającą ilość materiałów dla każdego, kto ma bardzo małe doświadczenie w bayesian. Wprowadza koncepcję wcześniejszej dystrybucji, dystrybucji tylnej, dystrybucji beta itp.

Spróbuj, to nic nie kosztuje.

http://greenteapress.com/thinkbayes/

Przeczytałem niektóre części Pierwszego Kursu w Bayesowskich Metodach Statystycznych Petera Hoffa i łatwo mi było podążać. (Przykładowy kod R podano w całym tekście)

Znalazłem doskonałe wprowadzenie w analizie danych Gelmana i Hilla (2007) przy użyciu regresji i modeli wielopoziomowych / hierarchicznych . (Inne komentarze wspominają o tym, ale zasługuje na to, aby zyskać własną opinię).

Pochodząc z niestatystycznego tła, znalazłem wprowadzenie do stosowanej statystyki bayesowskiej i szacunków dla naukowców społecznych dość pouczające i łatwe do naśladowania.

Jeśli szukasz tekstu elementarnego, tj. Takiego, który nie ma wstępnego rachunku różniczkowego, znajdziesz Statystyki Dona Berry'ego : Perspektywa Bayesowska .

Spójrz na „The Bayesian Choice” . Ma pełny pakiet: podstawy, aplikacje i obliczenia. Wyraźnie napisane.

Przynajmniej rzuciłem okiem na większość z nich na tej liście i żadne z nich nie jest tak dobre, jak nowe pomysły bayesowskie i analiza danych .

Edycja: Łatwo jest natychmiast rozpocząć analizę bayesowską podczas czytania tej książki. Nie tylko modeluj średnią z rozkładu normalnego ze znaną wariancją, ale rzeczywista analiza danych po pierwszych kilku rozdziałach. Wszystkie przykłady kodu i dane znajdują się na stronie internetowej książki. Obejmuje przyzwoitą ilość teorii, ale koncentruje się na zastosowaniach. Wiele przykładów z szerokiej gamy modeli. Niezły rozdział na temat Bayesian Nonparametrics. Przykłady Winbugs, R i SAS. Wolę to niż wykonywanie analizy danych bayesowskich (mam oba). Moim zdaniem większość książek tutaj (Gelman, Robert, ...) nie jest wprowadzająca i chyba, że ​​masz z kim porozmawiać, prawdopodobnie pozostanie więcej pytań niż odpowiedzi. Książka Alberta nie zawiera wystarczającej ilości materiału, aby czuć się komfortowo analizując dane inne niż przedstawione w książce (ponownie moja opinia).

Bardzo podoba mi się Markov Chain Monte Carlo: Stochastic Simulation for Bayesian Inference by Gamerman and Lopes.

Dla kompletnych początkujących spróbuj Williama Briggsa Łamiąc prawo średnich: prawdziwe prawdopodobieństwo i statystyki w prostym języku angielskim

Po prostu muszę włączyć MCMC do praktyki . Zapewnia doskonałe wprowadzenie do MCMC, być może nie tak ogólne, jak inne wspomniane książki, ale doskonałe do uzyskania wglądu i intuicji. Polecam przeczytaniu po (lub równolegle) Bayesa Obliczenie R .

Jeśli zdarzyło ci się pochodzić z nauk fizycznych (fizyka / astronomia), poleciłbym ci Bayesian Logical Data Analysis for the Physical Sciences: A Comparative Approach with Mathematica® Support autorstwa Gregory (2006).

Chociaż część tytułu „z obsługą Mathematica®” dotyczy tylko kwestii komercyjnych (zastosowania kodu Mathematica są bardzo słabe), dobrą stroną tej książki jest to, że jest naprawdę wstępem do tematu prawdopodobieństwa i statystyki. Zawiera nawet kilka rozdziałów na temat statystyk dla osób często odwiedzających. Jednak gdy już spróbujesz, idź do książki Gelman et. albowiem wiele osób cię polecało. Większość materiału w księdze Gregory'ego została potraktowana pochopnie (jeśli nie, nie byłby to wstęp): książka Gelmana naprawdę przebudziła się dla mnie z książki Gregory'ego.

Czytam:

Gelman i wsp. (2013). Analiza danych bayesowskich. CRC Press LLC. Wydanie trzecie

Hoff, Peter D. (2009). Pierwszy kurs bayesowskich metod statystycznych. Teksty Springera w statystyce.

Kruschke, Doing Bayesian Data Analysis: A Tutorial with R and Bugs, 2011. Academic Press / Elsevier.

i myślę, że lepiej na początek jest książka Kruschke. Jest idealny do pierwszego podejścia do myślenia bayesowskiego: pojęcia są wyjaśnione bardzo jasno, nie ma zbyt dużo matematyki i jest wiele dobrych przykładów!

Gelman i in. to świetna książka, ale jest bardziej zaawansowana i proponuję ją przeczytać po książce Kruschke.

I odwrotnie, nie podobała mi się książka Hoffa, ponieważ jest to książka wprowadzająca, ale pojęcia (i myślenie bayesowskie) nie są wyjaśnione w jasny sposób. Proponuję pominąć.

Gdybym miał wybrać jeden tekst dla początkującego, byłby to

              Sivia DS and Skilling J (2006) book (see below). 

Ze wszystkich wymienionych poniżej książek najtrudniej jest intuicyjnie zapoznać się z podstawowymi pomysłami, ale wciąż wymaga pewnych matematycznych wyrafinowań od strony 1.

Poniżej znajduje się lista dalszych lektur z mojej książki, wraz z komentarzami do każdej publikacji.

Bernardo, JM i Smith, A, (2000) 4. Teoria bayesowska Rygorystyczny opis metod bayesowskich, z wieloma przykładami z prawdziwego świata.

Bishop, C (2006) 5. Rozpoznawanie wzorców i uczenie maszynowe. Jak sugeruje tytuł, chodzi głównie o uczenie maszynowe, ale zapewnia jasne i wyczerpujące zestawienie metod bayesowskich.

Cowan G (1998) 6. Analiza danych statystycznych. Doskonałe, nie bayesowskie wprowadzenie do analizy statystycznej.

Dienes, Z (2008) 8. Zrozumienie psychologii jako nauki: wprowadzenie do naukowego i wnioskowania statystycznego. Zawiera materiały instruktażowe na temat reguły Bayesa i przejrzystą analizę rozróżnienia między statystykami bayesowskimi i częstymi.

Gelman A, Carlin J, Stern H i Rubin D. (2003) 14. Analiza danych bayesowskich. Rygorystyczny i kompleksowy opis analizy bayesowskiej, z wieloma przykładami z prawdziwego świata.

Jaynes E i Bretthorst G (2003) 18. Teoria prawdopodobieństwa: logika nauki. Współczesny klasyk analizy bayesowskiej. Jest wszechstronny i mądry. Jego dyskursywny styl sprawia, że ​​jest długi (600 stron), ale nigdy nudny, i jest pełen mnóstwa spostrzeżeń.

Khan, S, 2012, Wprowadzenie do twierdzenia Bayesa. Internetowe filmy matematyczne Salmana Khana stanowią dobre wprowadzenie do różnych tematów, w tym do zasady Bayesa.

Lee PM (2004) 27. Statystyka bayesowska: wprowadzenie. Rygorystyczny i kompleksowy tekst o wyrazistym stylu bayesowskim.

MacKay DJC (2003) 28. Teoria informacji, wnioskowanie i algorytmy uczenia się. Współczesny klasyk teorii informacji. Bardzo czytelny tekst, który porusza się po wielu tematach, z których prawie wszystkie wykorzystują zasadę Bayesa.

Migon, HS i Gamerman, D (1999) 30. Wnioskowanie statystyczne: podejście zintegrowane. Prosty (i jasno ułożony) opis wnioskowania, który porównuje podejścia Bayesowskie i nie Bayesowskie. Pomimo tego, że jest dość zaawansowany, styl pisania ma charakter samouczka.

Pierce JR (1980) 34 2nd Edition. Wprowadzenie do teorii informacji: symbole, sygnały i szum. Pierce pisze nieformalnym, tutorialowym stylem pisania, ale nie fl cala od przedstawienia podstawowych twierdzeń teorii informacji.

Reza, FM (1961) 35. Wprowadzenie do teorii informacji. Bardziej wszechstronna i matematycznie rygorystyczna książka niż książka Pierce powyżej, i powinna być czytana dopiero po pierwszym przeczytaniu bardziej nieformalnego tekstu Pierce'a.

Sivia DS i Skilling J (2006) 38. Analiza danych: tutorial bayesowski. To doskonałe wprowadzenie do metod bayesowskich w stylu samouczka.

Spiegelhalter, D and Rice, K (2009) 36. Statystyka bayesowska. Scholarpedia, 4 (8): 5230. http://www.scholarpedia.org/article/Bayesian_statistics Wiarygodne i wyczerpujące podsumowanie aktualnego statusu statystyki bayesowskiej.

A oto moja książka, opublikowana w czerwcu 2013 r.

Reguła Bayesa: samouczek Wprowadzenie do analizy bayesowskiej, dr James V Stone, ISBN 978-0956372840

Rozdział 1 można pobrać ze strony: http://jim-stone.staff.shef.ac.uk/BookBayes2012/BayesRuleBookMain.html

Opis: Odkryta przez XVIII-wiecznego matematyka i kaznodzieję reguła Bayesa jest kamieniem węgielnym współczesnej teorii prawdopodobieństwa. W tej bogato ilustrowanej książce wykorzystano szereg dostępnych przykładów, aby pokazać, w jaki sposób reguła Bayesa jest w rzeczywistości naturalną konsekwencją zdrowego rozsądku. Reguła Bayesa jest wyprowadzana przy użyciu intuicyjnych graficznych reprezentacji prawdopodobieństwa, a analiza Bayesa jest stosowana do szacowania parametrów za pomocą dostarczonych programów MatLab. Samouczek pisania w połączeniu z obszernym słownikiem sprawia, że ​​jest to idealny podkład dla początkującego, który chce zapoznać się z podstawowymi zasadami analizy bayesowskiej.

Statystyki nie są ściśle bayesowskie jako takie, ale mogę zdecydowanie polecić „Pierwszy kurs uczenia maszynowego” Rogersa i Girolamiego, który jest zasadniczo wstępem do bayesowskiego podejścia do uczenia maszynowego. Jest bardzo dobrze skonstruowany, przejrzysty i skierowany do studentów bez silnego zaplecza matematycznego. Oznacza to, że jest to całkiem dobre pierwsze wprowadzenie do pomysłów bayesowskich. Jest też kod MATLAB / OCTAVE, który jest fajną funkcją.

Bayesian Statistics for Social Scientists . Phillips, Lawrence D. (1973), Thomas Crowell & Co. Jest to bardzo jasne, bardzo dostępne, nie zakłada wiedzy statystycznej i, w przeciwieństwie do Bolstad, który uważam za suchy, ma pewną osobowość.

Ta książka sugeruje, że jest przeznaczony na poziomie licencjackim

Biostatystyka: wprowadzenie bayesowskie. George G Woodsworth.

Wydawca John Wiley & Sons

Gill, J. (2014). Metody bayesowskie: podejście do nauk społecznych i behawioralnych. 3. edycja

Napisane przez profesora nauk politycznych, z myślą o odbiorcach społecznych. Podany jest kod R.

http://www.amazon.com/Bayesian-Methods-Behavioral-Sciences-Statistics/dp/1439862486/

Ponieważ typ początkującego nie jest określony w pytaniu, oto moja rada dla początkujących statystyk:

Andrew B. Lawson i Emmanuel Lesaffre (2012): Bayesian Biostatistics

Ta książka została wykorzystana w pierwszym roku naszego mistrza nauk statystycznych i stosunkowo łatwo ją zrozumieć dla tak trudnego tematu. Podobnie jak w przypadku większości książek o „biostatystyce”, przykładami są głównie biologia kliniczna, ale metody nie są ograniczone do tych przydatnych w naukach klinicznych. Przed tym mieliśmy około pół roku edukacji statystycznej i oprócz twierdzenia Bayesa statystyki bayesowskie nie zostały jeszcze wprowadzone.

Przyjemne jest również to, że całe 649 slajdów towarzyszących prezentacji jest dostępnych online .