Rozkład pobierania próbek z dwóch niezależnych populacji Bernoulli

17

Załóżmy, że mamy próbki dwóch niezależnych zmiennych losowych Bernoulliego, Ber(θ1) i Ber(θ2) .

Jak udowodnimy, że

(X¯1X¯2)(θ1θ2)θ1(1θ1)n1+θ2(1θ2)n2dN(0,1)
?

Załóżmy, że n1n2 .

Stary człowiek na morzu.
źródło
Z_i = X_1i - X_2i jest sekwencją iid rv o skończonej średniej i wariancji. Dlatego spełnia centralne twierdzenie graniczne Levy-Linderberga, z którego wynikają twoje wyniki. A może prosi o dowód samego clt?
Three Diag
@ThreeDiag Jak stosujesz wersję LL CLT? Nie sądzę, że to prawda. Napisz odpowiedź, żeby sprawdzić szczegóły.
Stary człowiek na morzu.
Wszystkie szczegóły już tam są. Aby zastosować LL, potrzebujesz sekwencji iid rv ze skończoną średnią i wariancją. Zmienna Z_i = X_i1 i X_i2 spełnia wszystkie trzy wymagania. Niezależność wynika z niezależności dwóch oryginalnych bernoulli i można zauważyć, że E (Z_i) i V (Z_i) są skończone poprzez zastosowanie standardowych właściwości E i V
Three Diag
1
„próbki dwóch niezależnych zmiennych losowych Bernoulliego” - niepoprawne wyrażenie. Musi być: „dwie niezależne próbki z dystrybucji Bernoulliego”.
Viktor,
1
Please add "as n1,n2".
Viktor

Odpowiedzi:

10

Put a=θ1(1θ1)n1, b=θ2(1θ2)n2, A=(X¯1θ1)/a, B=(X¯2θ2)/b. We have AdN(0,1), BdN(0,1). In terms of characteristic functions it means

ϕA(t)EeitAet2/2, ϕB(t)et2/2.
We want to prove that
D:=aa2+b2Aba2+b2BdN(0,1)

Since A and B are independent,

ϕD(t)=ϕA(aa2+b2t)ϕB(ba2+b2t)et2/2,
as we wish it to be.

This proof is incomplete. Here we need some estimates for uniform convergence of characteristic functions. However in the case under consideration we can do explicit calculations. Put p=θ1, m=n1.

ϕX1,1(t)=1+p(eit1),ϕX¯1(t)=(1+p(eit/m1))m,ϕX¯1θ1(t)=(1+p(eit/m1))meipt,ϕA(t)=(1+p(eit/mp(1p)1))meiptm/p(1p)=((1+p(eit/mp(1p)1))eipt/mp(1p))m=(1t22m+O(t3m3/2))m
as t3m3/20. Thus, for a fixed t,
ϕD(t)=(1a2t22(a2+b2)n1+O(n13/2))n1(1b2t22(a2+b2)n2+O(n23/2))n2et2/2
(even if a0 or b0), since |ey(1y/m)m|y2/2m  when  y/m<1/2 (see /math/2566469/uniform-bounds-for-1-y-nn-exp-y/ ).

Note that similar calculations may be done for arbitrary (not necessarily Bernoulli) distributions with finite second moments, using the expansion of characteristic function in terms of the first two moments.

Viktor
źródło
This seems correct. I'll get back to you later on, when I have time to check everything. ;)
An old man in the sea.
-1

Proving your statement is equivalent to proving the (Levy-Lindenberg) Central Limit Theorem which states

If {Zi}i=1n is a sequence of i.i.d random variable with finite mean E(Zi)=μ and finite variance V(Zi)=σ2 then

n(Z¯μ)dN(0,σ2)

Here Z¯=iZi/n that is the sample variance.

Then it is easy to see that if we put

Zi=X1iX2i
with X1i,X2i following a Ber(θ1) and Ber(θ2) respectively the conditions for the theorem are satisfied, in particular

E(Zi)=θ1θ2=μ

and

V(Zi)=θ1(1θ1)+θ2(1θ2)=σ2

(There's a last passage, and you have to adjust this a bit for the general case where n1n2 but I have to go now, will finish tomorrow or you can edit the question with the final passage as an exercise )

Three Diag
źródło
I could not obtain what I wanted exactly because of the possibility of n1n2
An old man in the sea.
I will show later if you can't get it. Hint: compute the variance of the sample mean of Z and use that as the variable in the theorem
Three Diag
Three, could you please add the details for when n1n2? Thanks
An old man in the sea.
Will do as soon as find a little timr. There was in fact a subtlety that prevents from using LL clt without adjustment. There are three ways to go, the simplest of which is invoking the fact that for large n1 and n2, X1 and X2 go in distribution to normals, then a linear combination of normal is also normal. This is a property of normals that you can take as given, otherwise you can prove it by characteristic functions.
Three Diag
The other two require either a different clt (Lyapunov possibly) or alternatively treat n1 = i and n2= i +k. Then for large i you can essentially disregard k and you can go back to apply LL (but still it will require some care to nail the right variance)
Three Diag