Przedział ufności dla wariancji przy jednej obserwacji

Jest to problem z „7 Olimpiady Kołmogorowskiej w teorii prawdopodobieństwa”:

Biorąc pod uwagę jedno spostrzeżenie z rozkładu nazwa z oboma parametrami nieznanymi, podaj przedział ufności dla z poziomem ufności co najmniej 99%.Normalna ( μ , σ 2 ) σ $X$$\operatorname{Normal}(\mu,\sigma^2)$$\sigma^2$

Wydaje mi się, że powinno to być niemożliwe. Mam rozwiązanie, ale jeszcze go nie przeczytałem. jakieś pomysły?

Wyślę rozwiązanie za kilka dni.

[Edycja uzupełniająca: oficjalne rozwiązanie opublikowane poniżej. Rozwiązanie kardynała jest dłuższe, ale daje lepszy przedział ufności. Dziękujemy również Maxowi i Glen_b za ich wkład.]

Patrząc przez pryzmat prawdopodobieństwa nierówności i powiązań z przypadkiem wielokrotnej obserwacji, wynik ten może nie wydawać się tak niemożliwy, a przynajmniej bardziej prawdopodobny.

Niech z i nieznane. Możemy napisać dla .μ σ 2 X = σ Z + μ Z ∼ N ( 0 , 1 $\renewcommand{\Pr}{\mathbb P}\newcommand{\Ind}[1]{\mathbf 1_{(#1)}}X \sim \mathcal N(\mu,\sigma^2)$$\mu$$\sigma^2$$X = \sigma Z + \mu$$Z \sim \mathcal N(0,1)$

Główne zastrzeżenie : to przedział ufności dla gdzie jest kwantylem na poziomie rozkładu chi-kwadrat z jednym stopniem wolność. Ponadto, ponieważ interwał dokładnie pokrycia podczas , to jest najwęższa możliwa odstęp postaci do pewnego .( 1 - α ) σ 2 q α α ( 1 - α ) μ = 0 [ 0 , b X 2 ) b ∈ $[0,X^2/q_\alpha)$$(1-\alpha)$$\sigma^2$$q_\alpha$$\alpha$ $(1-\alpha)$$\mu = 0$$[0,b X^2)$$b \in \mathbb R$

Powód do optymizmu

Przypomnijmy, że w przypadku , gdy , typowy przedział ufności dla wynosi gdzie jest poziomowym kwantylem chi-kwadrat z stopni swobody. Dotyczy to oczywiście każdego . Chociaż jest to najbardziej popularny przedział (z oczywistych powodów nazywany interwałem o jednakowym ogonie ), nie jest to ani jedyny, ani nawet najmniejszy! Jak powinno być oczywiste, kolejnym ważnym wyborem jest T = ∑ n i = 1 ( X i - ˉ X ) 2 ( 1 - α ) σ 2 ($n \geq 2$$T = \sum_{i=1}^n (X_i - \bar X)^2$ $(1-\alpha)$$\sigma^2$q k , a a k μ ( 0 ,

$$\Big(\frac{T}{q_{n-1,(1-\alpha)/2}}, \frac{T}{q_{n-1,\alpha/2}} \Big) \>,$$ $q_{k,a}$$a$$k$$\mu$ $$\Big(0,\frac{T}{q_{n-1,\alpha}}\Big) \>.$$

Ponieważ , a następnie ma również zasięg co najmniej . ( 0 , ∑ n i = 1 X 2 $T \leq \sum_{i=1}^n X_i^2$( 1 - α

$$\Big(0,\frac{\sum_{i=1}^n X_i^2}{q_{n-1,\alpha}}\Big) \>,$$ $(1-\alpha)$

Patrząc w tym świetle, możemy być optymistami, że przedział w głównym twierdzeniu jest prawdziwy dla . Główna różnica polega na tym, że w przypadku pojedynczej obserwacji nie ma rozkładu chi-kwadrat o zerowym stopniu swobody, więc musimy mieć nadzieję, że zastosowanie kwantyla o jednym stopniu swobody zadziała.$n = 1$

Pół kroku do naszego celu ( wykorzystanie prawego ogona )

Zanim przejdziemy do dowodu głównego twierdzenia, spójrzmy najpierw na wstępne twierdzenie, które nie jest tak silne ani satysfakcjonujące statystycznie, ale może daje dodatkowy wgląd w to, co się dzieje. Możesz przejść do dowodu głównego roszczenia poniżej, bez większych (jeśli w ogóle) strat. W tej i następnej części dowody - choć nieco subtelne - opierają się tylko na elementarnych faktach: monotoniczności prawdopodobieństw oraz symetrii i niejednoznaczności rozkładu normalnego.

Roszczenie pomocnicze : jest przedziałem ufności dla tak długo, jak . Tutaj jest kwantylem na poziomie standardowej normy.( 1 - α ) σ 2 α > 1 / 2 z α$[0,X^2/z^2_\alpha)$$(1-\alpha)$$\sigma^2$$\alpha > 1/2$$z_\alpha$$\alpha$

Dowód . iprzez symetrię, więc w poniższym przykładzie możemy przyjąć bez utraty ogólności. Teraz dla i , a więc z widzimy, że Działa to tylko dla , ponieważ jest to potrzebne dla .| σ Z + μ | d = | - σ Z + μ $|X| = |-X|$$|\sigma Z + \mu| \stackrel{d}{=} |-\sigma Z+\mu|$θ ≥ 0 μ ≥ 0 P ( | X | > θ ) ≥ P ( X > θ ) = P ( σ Z + μ > θ ) ≥ P ( $\mu \geq 0$$\theta \geq 0$$\mu \geq 0$θ = z α σ P ( 0 ≤ σ 2 < X 2 / z 2 α ) ≥ 1 -

$$\Pr(|X| > \theta) \geq \Pr( X > \theta) = \Pr( \sigma Z + \mu > \theta) \geq \Pr( Z > \theta/\sigma) \>,$$ $\theta = z_{\alpha} \sigma$α > 1 / 2 z α > $$\Pr(0 \leq \sigma^2 < X^2 / z^2_\alpha) \geq 1 - \alpha \>.$$ $\alpha > 1/2$$z_\alpha > 0$

Dowodzi to roszczenia pomocniczego. Chociaż jest ilustracyjny, nie jest satysfakcjonujący ze statystycznego punktu widzenia, ponieważ do działania wymaga absurdalnie dużej .$\alpha$

Potwierdzenie głównego roszczenia

Udoskonalenie powyższego argumentu prowadzi do wyniku, który będzie działał dla dowolnego poziomu zaufania. Najpierw zauważ, że Zestaw i . Następnie Jeśli możemy wykazać, że prawa strona zwiększa się dla każdego ustalonego , możemy zastosować podobny argument jak w poprzednim argumencie. Jest to co najmniej prawdopodobne, ponieważ chcielibyśmy wierzyć, że jeśli średnia wzrośnie, to bardziej prawdopodobne staje się, że zobaczymy wartość o module przekraczającyma

$$\Pr(|X| > \theta) = \Pr(|Z + \mu/\sigma| > \theta / \sigma ) \>.$$ b = θ / σ ≥ 0 P ( | Z + a | > b ) = Φ ( a - b ) + Φ ( - a - b $a = \mu/\sigma \geq 0$$b = \theta / \sigma \geq 0$a b $$\Pr(|Z + a| > b) = \Phi(a-b) + \Phi(-a-b) \>.$$ $a$$b$$b$. (Musimy jednak uważać na to, jak szybko masa maleje w lewym ogonie!)

Ustaw . Następnie Zauważ, że i dla dodatniego , zmniejsza się . Teraz dla łatwo zauważyć, że . Te wspólne fakty łatwo sugerują, że dla wszystkich i każdego ustalonego .$f_b(a) = \Phi(a-b) + \Phi(-a-b)$f ′ b ( 0 ) = 0 u φ ( u ) u a ∈ ( 0 , 2 b ) φ ( a - b ) ≥ φ ( - b ) = φ ( b ) f ′ b ( a ) ≥ 0 a ≥ 0 b ≥

$$f'_b(a) = \varphi(a-b) - \varphi(-a-b) = \varphi(a-b) - \varphi(a+b) \>.$$ $f'_b(0) = 0$$u$$\varphi(u)$$u$$a \in (0,2b)$$\varphi(a-b) \geq \varphi(-b) = \varphi(b)$ $$f'_b(a) \geq 0$$ $a \geq 0$$b \geq 0$

Dlatego pokazaliśmy, że dla i , $a \geq 0$$b \geq 0$

$$\Pr(|Z + a| > b) \geq \Pr(|Z| > b) = 2\Phi(-b) \>.$$

Rozwiązując to wszystko, jeśli weźmiemy , otrzymamy która ustanawia główne roszczenie.$\theta = \sqrt{q_\alpha} \sigma$

$$\Pr(X^2 > q_\alpha \sigma^2) \geq \Pr(Z^2 > q_\alpha) = 1 - \alpha \>,$$

Uwaga końcowa : uważna lektura powyższego argumentu pokazuje, że wykorzystuje on jedynie symetryczne i nieimodalne właściwości rozkładu normalnego. Stąd podejście działa analogicznie do uzyskiwania przedziałów ufności z pojedynczej obserwacji z dowolnej symetrycznej, nieimodalnej rodziny o skali lokalizacji, np. Rozkładów Cauchy'ego lub Laplace'a.

Czas na kontynuację! Oto rozwiązanie, które otrzymałem:

$[0,T(X))$$T(\cdot)$

$$(\forall \mu \in \mathbb R )(\forall \sigma > 0)\; \mathbb P_{\mu,\sigma_2}(\sigma^2 > T(X)) < 0.01.$$ $\mathcal{N}(\mu,\sigma^2)$$1/\sigma\sqrt{2\pi}$$\mathbb{P}(|X| \leq a) \leq a/\sigma$$a \geq 0$ $$t \geq \mathbb P (|X|/\sigma \leq t) = \mathbb P (X^2 \leq t^2\sigma^2) = \mathbb P (\sigma^2 \geq X^2/t^2).$$ $t = 0.01$$T(X) = 10000X^2.$

Przedział ufności (który jest bardzo szeroki) jest nieco konserwatywny w symulacji, bez pokrycia empirycznego (w 100 000 symulacji) poniżej 99,15%, ponieważ zmieniałem CV na wiele rzędów wielkości.

$6300X^2$$10000X^2$

$(0,4900X^2)$

$(0,\infty)$