Czy przedziały ufności są przydatne?

W statystyce częstokrzyskiej 95% przedział ufności to procedura generowania przedziału, która, jeśli powtórzona nieskończoną liczbę razy, zawierałaby prawdziwy parametr w 95% przypadków. Dlaczego to jest przydatne?

Przedziały ufności są często źle rozumiane. Są to nie przerwa, że możemy być w 95% pewien, że parametr jest (o ile nie używasz podobny Bayesa przedział wiarygodności). Przedziały ufności są dla mnie jak przynęta.

Jedynym przypadkiem, o którym mogę pomyśleć, jest podanie zakresu wartości, dla których nie mogliśmy odrzucić hipotezy zerowej, że parametr jest tą wartością. Czy wartości p nie dostarczyłyby tych informacji, ale lepiej? Bez wprowadzania w błąd?

W skrócie: Dlaczego potrzebujemy przedziałów ufności? W jaki sposób są one właściwie interpretowane, jeśli są przydatne?

Tak długo, jak przedział ufności jest traktowany jako losowy (tzn. Patrząc z perspektywy traktowania danych jako zestawu zmiennych losowych, których jeszcze nie widzieliśmy), tak naprawdę możemy tworzyć użyteczne stwierdzenia prawdopodobieństwa na ten temat. Załóżmy, że masz przedział ufności na poziomie dla parametru , a przedział ten ma granice . Następnie możemy powiedzieć, że:$1-\alpha$$\theta$$L(\mathbf{x}) \leqslant U(\mathbf{x})$

Odejście od paradygmatu częstych i marginalizacja ponad dla dowolnego wcześniejszego rozkładu daje odpowiedni (słabszy) marginalny wynik prawdopodobieństwa:$\theta$

Gdy ustalimy granice przedziału ufności, ustalając dane na , nie odwołujemy się już do tego oświadczenia prawdopodobieństwa, ponieważ teraz naprawiliśmy dane. Jeśli jednak przedział ufności jest traktowany jako przedział losowy, wówczas rzeczywiście możemy wykonać to stwierdzenie prawdopodobieństwa --- tj. Z prawdopodobieństwem parametr będzie się w przedziale (losowym).$\mathbf{X} = \mathbb{x}$ 1 - α θ$1-\alpha$$\theta$

W statystykach częstych stwierdzenia prawdopodobieństwa są stwierdzeniami o względnych częstotliwościach w nieskończenie powtarzanych próbach. Ale dotyczy to każdego stwierdzenia prawdopodobieństwa w paradygmacie częstokroć, więc jeśli sprzeciwiasz się stwierdzeniom względnej częstotliwości, nie jest to zastrzeżenie specyficzne dla przedziałów ufności. Jeśli wyjdziemy poza paradygmat częstych, możemy słusznie powiedzieć, że przedział ufności zawiera parametr docelowy z pożądanym prawdopodobieństwem, o ile stwierdzenie prawdopodobieństwa jest marginalnie (tj. Nie zależne od danych) i dlatego traktujemy przedział ufności w losowym tego słowa znaczeniu.

Nie wiem o innych, ale wydaje mi się, że jest to dość potężny wynik prawdopodobieństwa i rozsądne uzasadnienie dla tej formy przedziału. Sam jestem stronniczy w stosunku do metod bayesowskich, ale przedziały ufności oparte na wynikach prawdopodobieństwa (w ich losowym sensie) są potężnymi wynikami, których nie należy wąchać.

Zgadzam się z @Ben powyżej i pomyślałem, że podam prosty przykład, w którym przedział Bayesa w porównaniu do częstości byłby wartościowy w tych samych okolicznościach.

Wyobraź sobie fabrykę z równoległymi liniami montażowymi. Zatrzymanie linii jest kosztowne, a jednocześnie chcą wytwarzać produkty wysokiej jakości. Obawiają się z czasem zarówno fałszywych trafień, jak i fałszywych negatywów. Dla fabryki jest to proces uśredniania: zarówno moc, jak i gwarantowana ochrona przed fałszywymi pozytywami. Przedziały ufności, a także przedziały tolerancji, mają znaczenie dla fabryki. Niemniej jednak maszyny przestaną wyrównywać, czyli , a sprzęt wykrywający będzie obserwował zdarzenia niepożądane. Średni wynik ma znaczenie, podczas gdy konkretny wynik jest szczegółem operacyjnym.$\theta\ne\Theta$

Po przeciwnej stronie jest jeden klient kupujący jeden produkt lub jedną partię produktów. Nie dbają o powtarzalność linii montażowej. Dbają o jeden zakupiony produkt. Wyobraźmy sobie, że klientem jest NASA i potrzebują produktu, który spełnia specyfikację, powiedzmy Nie dbają o jakość części, których nie kupili. Potrzebują jakiejś formy bayesowskiej. Co więcej, pojedyncza awaria może zabić wielu astronautów i kosztować miliardy dolarów. Muszą wiedzieć, że każda zakupiona część spełnia specyfikacje. Uśrednianie byłoby zabójcze. W przypadku rakiety Saturn V jeden procent defektów oznaczałby 10 000 wadliwych części podczas lotów Apollo. Wymagały 0% wad we wszystkich misjach.$\gamma\le\Gamma.$

Martwisz się o przedział ufności podczas pracy w przestrzeni próbnej, tak jak robi to fabryka. Tworzy przykładową przestrzeń. Martwisz się o wiarygodne interwały podczas pracy w przestrzeni parametrów, tak jak robiłby to klient. Jeśli nie przejmujesz się obserwacjami poza twoimi, to jesteś Bayesianinem. Jeśli troszczysz się o próbki, które nie były widoczne, ale mogły być widoczne, jesteś częstym uczestnikiem.

Czy jesteś zainteresowany długoterminowym uśrednianiem lub konkretnym wydarzeniem?

Należy zauważyć, że dzięki ścisłej definicji przedziału ufności możliwe jest , że są one całkowicie pozbawione znaczenia, tj. Nie informują o parametrze będącym przedmiotem zainteresowania. Jednak w praktyce mają one na ogół bardzo duże znaczenie.

Jako przykład bezsensownego przedziału ufności załóżmy, że mam procedurę, która 95% czasu daje , a 5% czasu daje [ , ], gdzie to dowolna para zmiennych losowych, takich jak . Następnie jest to procedura, która uwzględnia każde prawdopodobieństwo przez co najmniej 95% czasu, więc jest to technicznie prawidłowy przedział ufności dla każdego prawdopodobieństwa. Jeśli jednak powiem, że interwał uzyskany w tej procedurze wynosił dla danego , powinieneś zdać sobie sprawę, że tak naprawdę niczego się nie dowiedziałeś o .$[0,1]$$U_{min}$$U_{max}$$U_{min}, U_{max}$ U m i n < U m a x [ 0,01 , 0,011 ] p p$U_{min} < U_{max}$$[0.01, 0.011]$$p$$p$

Z drugiej strony większość przedziałów ufności jest konstruowana w bardziej użyteczny sposób. Na przykład, jeśli powiedziałem ci, że został utworzony przy użyciu procedury Wald Interval, to wiemy o tym

$\hat p \text{ } \dot\sim \text{ } N(p, s_e)$

gdzie jest błędem standardowym. To bardzo znaczące stwierdzenie o tym, jak odnosi się do . Przekształcenie tego w przedział ufności jest po prostu próbą uproszczenia tego wyniku dla kogoś, kto nie jest tak zaznajomiony z normalnymi rozkładami. Nie oznacza to również, że jest to narzędzie tylko dla osób, które nie wiedzą o normalnych dystrybucjach; na przykład, percentylowy pasek startowy jest narzędziem do podsumowania błędu między estymatorem a parametrem true, gdy rozkład tego błędu może być niegaussowski.$s_e$s s$\hat p$$p$

Przedziały ufności są nie tylko przydatne, ale niezbędne w niektórych dziedzinach, takich jak fizyka. Niestety najwięcej hałasu związanego z CI pochodzi od Bayesianów, którzy zostali wciągnięci w fałszywe debaty z Frequentists, zwykle w kontekście „nauk” społecznych i innych dyscyplin podobnych do nauki.

Załóżmy, że mierzę pewną ilość w fizyce, taką jak ładunek elektryczny. Zawsze dostarczałbym mi miarę niepewności wartości, która jest zwykle odchyleniem standardowym. Ponieważ w fizyce błędy są często gaussowskie, przekłada się to bezpośrednio na CI. Jednak gdy błędy nie są gaussowskie, staje się to nieco skomplikowane, niektóre całki muszą zostać ocenione itp. Zwykle nie jest to jednak zbyt ezoteryczne.

Oto krótka prezentacja na temat CI w fizyce cząstek i definicja:

stwierdzenie ilościowe o ułamku razy, że taki przedział zawierałby prawdziwą wartość parametru w dużej liczbie powtarzanych eksperymentów

Zauważ, że w fizyce „powtarzane eksperymenty” mają często dosłowne znaczenie: zakłada się, że można faktycznie powtórzyć eksperymenty na papierze i obserwować tę część. Tak więc CI ma dla ciebie prawie dosłowne znaczenie i jest tylko sposobem na wyrażenie informacji o niepewności pomiaru. To nie jest myślowy eksperyment, nie subiektywna opinia, ani twoje ani moje odczucia dotyczące prawdopodobieństw itp. To jest to, co udało ci się wymyślić z eksperymentów i co powinienem być w stanie zaobserwować, odtwarzając swój eksperyment.

Wątek ten szybko przekształcił się w debatę Frequentist vs. Bayesian, co nie jest łatwe do rozwiązania. Matematyka w obu podejściach jest solidna, więc zawsze sprowadza się do preferencji filozoficznych. Częstotliwościowa interpretacja prawdopodobieństwa jako granicy względnej częstotliwości zdarzenia uzasadniona jest silnym prawem dużych liczb; niezależnie od preferowanej interpretacji prawdopodobieństwa, częstotliwość względna zdarzenia zbiega się z prawdopodobieństwem z prawdopodobieństwem 1.

Częstotliwościowe przedziały ufności są rzeczywiście trudniejsze do interpretacji niż wiarygodne przedziały bayesowskie. Traktując nieznaną ilość jako zmienną losową, Bayesianie mogą twierdzić, że jeden przedział zawiera tę wielkość z pewnym prawdopodobieństwem. Częste osoby odmawiają traktowania niektórych wielkości jako zmiennych losowych, a wszelkie równania zawierające tylko stałe mogą być prawdziwe lub fałszywe. Tak więc przy szacowaniu nieznanej stałej częstokształtni muszą związać je przedziałem RANDOM, aby w ogóle uwzględnić prawdopodobieństwo. Zamiast jednego przedziału zawierającego zmienną losową z pewnym prawdopodobieństwem, metoda częstokroć generuje wiele różnych możliwych przedziałów, z których niektóre zawierają nieznaną stałą. Jeśli prawdopodobieństwo pokrycia jest dość wysokie, rozsądnym skokiem wiary jest stwierdzenie, że określony przedział zawiera nieznaną stałą (uwaga, a nie „

Bayesian bał się takim skokiem wiary, jak Frequentist traktuje każdą nieznaną ilość jako zmienną losową. Częsta metoda konstrukcji Neymana ujawniła zawstydzający problem z takimi skokami wiary. Bez aktywnego zapobiegania (patrz Feldman i Cousins, 1997 dla jednego podejścia), rzadkie wyniki mogą generować PUSTE przedziały ufności dla parametru dystrybucji. Taki skok wiary byłby bardzo nierozsądny! Widziałem kilku Bayesian, którzy używają tego przykładu, aby wyśmiewać metody częstokroć, podczas gdy częstokroć zazwyczaj odpowiada „no cóż, nadal mam prawidłowy odstęp czasu przez większość czasu i bez fałszywych założeń”. Zwrócę uwagę, że impas bayesowski / częsty nie jest ważny dla większości stosujących swoje metody.