Nierówności prawdopodobieństwa

37

Szukam pewnych nierówności prawdopodobieństwa dla sum niezwiązanych zmiennych losowych. Byłbym bardzo wdzięczny, gdyby ktokolwiek mógł mi coś przekazać.

Moim problemem jest znalezienie wykładniczej górnej granicy ponad prawdopodobieństwem, że suma niezwiązanych zmiennych losowych iid, które są w rzeczywistości pomnożeniem dwóch iidów Gaussa, przekracza pewną określoną wartość, tj. Pr[Xϵσ2N]exp(?) , w którym X=i=1Nwivi , wi i vi są generowane IID z N(0,σ) .

Próbowałem użyć granicy Chernoffa za pomocą funkcji generowania momentu (MGF), granica pochodna jest dana przez:

Pr[Xϵσ2N]minsexp(sϵσ2N)gX(s)=exp(N2(1+4ϵ21+log(1+4ϵ21)log(2ϵ2)))

gdzie jest MGF z . Ale granica nie jest tak ciasna. Głównym problemem w moim problemie jest to, że zmienne losowe są nieograniczone i niestety nie mogę użyć granicy nierówności Hoeffdinga.gX(s)=(11σ4s2)N2X

Będę szczęśliwy, jeśli pomożesz mi znaleźć ścisłą wykładniczą granicę.

Farzad
źródło
3
Brzmi jak problem związany z wykrywaniem kompresji. Spójrz na uwagi R. Vershynina na temat nieasymptotycznej teorii losowej macierzy, a konkretnie na granice tego, co nazywa zmiennymi losowymi podwykładniczymi . To zaczniesz. Jeśli potrzebujesz więcej wskazówek, daj nam znać, a postaram się opublikować więcej informacji.
kardynał
1
Na stronie math.SE znajduje się co najmniej kilka powiązanych pytań i odpowiedzi na ten temat (wyłączenie odpowiedzialności: w tym jedno, w którym uczestniczyłem).
kardynał
1
Produkt ma dystrybucję „normalnego produktu”. Uważam, że średnia tego produktu wynosi zero, a wariancja to gdzie to wariancja i . Dla largeish, można użyć centralne twierdzenie graniczne, aby uzyskać przybliżoną norality z . Jeśli potrafisz obliczyć odchylenie normalnej dystrybucji produktu, uważam, że możesz zastosować twierdzenie Berry'ego-Esseena, aby ograniczyć tempo zbieżności CDF. σ 4 σ 2 w i v i N Xwiviσ4σ2wiviNX
shabbychef
1
@shabbychef, Berry-Esseen ma dość powolną konwergencję, ponieważ jest to jednolita związana nad klasą wszystkich funkcji rozkładu . F
kardynał
4
@DilipSarwate: Przepraszam, że widzę twój komentarz jakiś czas temu. Myślę, że może być zainteresowany w następującym trochę papieru, co mam związanego kilka razy na math.SE oraz: TK Phillips i R. Nelson (1995), moment związany jest mocniej niż na Chernoffa zobowiązany do pozytywnego ogona prawdopodobieństwa , The American Statistician , vol 42, no. 2., 175–178.
kardynał

Odpowiedzi:

1

Używając granicy Chernoffa, którą zasugerowałeś dla niektórych które zostaną określone później, gdzie zachodzi druga nierówność dzięki dla dowolnego . Teraz weźmy i , prawa strona staje się który daje dla każdego .s1/(2σ2)

P[X>t]exp(st)exp((N/2)log(1σ4s2))exp(st+σ4s2N)
log(1x)2xx(0,1/2)t=ϵσ2Ns=t/(2σ4N)exp(t2/(4σ4N)=exp(ϵ2N/4)ϵ ( 0 , 1 )
P[X>ϵσ2N]exp(ϵ2N/4).
ϵ(0,1)

Inną drogą jest bezpośrednie zastosowanie nierówności koncentracji, takich jak nierówność Hansona-Wrighta lub nierówności koncentracji w przypadku chaosu gaussowskiego rzędu 2, który obejmuje zmienną losową, którą jesteś zainteresowany.

Prostsze podejście bez korzystania z funkcji generowania momentu

Wziąć dla uproszczenia (w przeciwnym razie mogą się przeskalowanie przez podzielenie ).σ=1σ2

Zapis i . Pytasz o górne granice na .v=(v1,...,vn)Tw=(w1,...,wn)TP(vTw>ϵN)

Niech. Wtedy przez niezależność i jest niezależny od z z stopni swobody.Z=wTv/vZN(0,1)v,wv2Zχ2n

Według standardowych granic standardowych zmiennych normalnych i , Połączenie z związkiem daje górną granicę na postaci .χ2

P(|Z|>ϵn/2)2exp(ϵ2n/4),P(v>2n)exp(n(21)2/2).
P(vTw>ϵN)2exp(ϵ2n/4)+exp(n(21)2/2)

Jlewk
źródło
0

Ograniczenie, które otrzymujesz, jest rzędu jako . Nie sądzę, że możesz zrobić dużo lepiej dla generała . Ze strony Wikipedii dotyczącej Zmiennych produktu dystrybucja wynosi gdzie jest zmodyfikowaną funkcją Bessela. Z (10.25.3) w liście funkcji DLMF , tak, że dla wystarczająco duża który nie da ci granicy sub Gaussa.eϵϵϵwiviK0(z)/πK0K0(t)et/txP(wivi>x)xet/tdt

BookYourLuck
źródło