Badanie symulacyjne: jak wybrać liczbę iteracji?

11

Chciałbym wygenerować dane za pomocą „Modelu 1” i dopasować je do „Modelu 2”. Podstawową ideą jest zbadanie właściwości odporności „Modelu 2”. Szczególnie interesuje mnie wskaźnik pokrycia 95% przedziału ufności (w oparciu o normalne przybliżenie).

  • Jak ustawić liczbę uruchomień iteracji?
  • Czy to prawda, że ​​większe niż konieczne replikacje mogą powodować fałszywe uprzedzenia? Jeśli tak, to jak to jest?
użytkownik7064
źródło
Co rozumiesz przez „wskaźnik pokrycia 95% przedziału ufności”? Jeśli przedział ufności jest dokładny lub dobry przybliżony przedział, obejmuje on prawdziwą wartość parametru przez około 95% czasu.
Michael R. Chernick,
1
Jeśli generujesz przedział ufności na podstawie modelu 2 dla danych wygenerowanych w modelu 1, wydaje się to wskazywać, że oba modele są powiązane i zawierają niektóre z tych samych parametrów. Czy możesz wyjaśnić coś więcej? Ponadto, kiedy mówisz „fałszywy” w drugim punkcie, masz na myśli zło, czy po prostu nieważne? Większa liczba symulacji nie powinna powodować błędu, ale może ujawnić błąd, który ma niewielkie praktyczne znaczenie, którego nie zobaczyłbyś przy mniejszej liczbie, podobny do tego, jak możesz wykryć (tj. Uzyskać znaczenie statystyczne) bardzo mały efekt, gdy mają bardzo dużą próbkę.
Makro,
@Michael Chernick: Na przykład niedostateczne pokrycie można osiągnąć, jeśli błąd standardowy jest zbyt mały. Zredagowałem swoje pytanie, aby określić, niż korzystam z przedziałów ufności w oparciu o normalne przybliżenie.
user7064,
@Macro: „Model 1” generuje normalne dane z terminami błędów heteroscedastycznych, a „Model 2” jest standardowym modelem liniowym.
user7064,

Odpowiedzi:

10

W oparciu o komentarz uzupełniający wygląda na to, że próbujesz oszacować prawdopodobieństwo pokrycia przedziału ufności, gdy zakładasz stałą wariancję błędu, gdy prawdziwa wariancja błędu nie jest stała.

Myślę o tym, że dla każdego przebiegu przedział ufności albo obejmuje prawdziwą wartość, albo nie. Zdefiniuj zmienną wskaźnikową:

Yi={1if the interval covers0if it does not

Zatem prawdopodobieństwo pokrycia, które Cię interesuje, to które możesz oszacować na podstawie proporcji próbki, która, jak myślę, jest tym, co proponujesz.E(Yi)=p

Jak ustawić liczbę uruchomień iteracji?

Wiemy, że wariancja próby Bernoulliego wynosi , a twoje symulacje wygenerują próby bernoulli IID, dlatego wariancja oszacowania p na podstawie symulacji wynosi p ( 1 - p ) / n , gdzie n jest liczba symulacji. Możesz wybrać n, aby zmniejszyć tę wariancję tak bardzo, jak chcesz. Faktem jest, że P ( 1 - t ) / n 1 / 4 np(1p)pp(1p)/nnn

p(1p)/n1/4n

Tak więc, jeśli chcesz wariancja jest mniejsza niż pewien uprzednio określony próg, , to można to zapewnić poprzez wybór n 1 / 4 Æ .δn1/4δ

W bardziej ogólnym ustawieniu, jeśli próbujesz zbadać właściwości rozkładu próbkowania estymatora za pomocą symulacji (np. Jego średnia i wariancja), możesz wybrać liczbę symulacji na podstawie tego, ile precyzji chcesz osiągnąć w analogiczny sposób moda do opisanej tutaj.

Zauważ również, że gdy przedmiotem zainteresowania jest średnia (lub inny moment) zmiennej, tak jak tutaj, możesz skonstruować dla niej przedział ufności na podstawie symulacji z wykorzystaniem przybliżenia normalnego (tj. Centralnego twierdzenia o granicy) , jak omówiono w ładnej odpowiedzi MansT. To normalne przybliżenie jest lepsze wraz ze wzrostem liczby próbek, więc jeśli planujesz skonstruować przedział ufności, odwołując się do centralnego twierdzenia granicznego, będziesz chciał, aby było wystarczająco duże, aby to zastosować. Dla przypadku binarnego, jak masz tutaj wydaje się przybliżenie to jest dobre, nawet jeśli n p i n ( 1 - p ) są dość umiarkowane - powiedzmy, 20 .nnpn(1p)20

Czy to prawda, że ​​większe niż konieczne replikacje mogą powodować fałszywe uprzedzenia? Jeśli tak, to jak to jest?

Jak wspomniałem w komentarzu - zależy to od tego, co rozumiesz przez fałszywe. Większa liczba symulacji nie spowoduje błędu systematycznego w sensie statystycznym, ale może ujawnić nieważne odchylenie, które jest zauważalne tylko przy astronomicznie dużej próbce. Załóżmy na przykład, że prawdziwe prawdopodobieństwo pokrycia błędnie określonego przedziału 94,9999 % . W praktyce nie jest to jednak problemem, ale tę różnicę można zauważyć tylko wtedy, gdy przeprowadzisz mnóstwo symulacji.94,9999%

Makro
źródło
10

Często używam szerokości przedziałów ufności jako szybkiego i brudnego sposobu określania liczby potrzebnych iteracji.

pXnXbjan(n,p)

p^=X/npp(1-p)/nnp^p^±1,96p^(1-p^)/npp0,952)1,960,950,05/n

0,1n

0,1=2)1,960,950,05/n.

n

MånsT
źródło
(+1) wygląda na to, że przesłaliśmy bardzo podobną odpowiedź w tym samym czasie, ale myślę, że inny użyty język może być przydatny dla niektórych.
Makro,
Tak, nadal nie wiem, którą odpowiedź zaakceptować! W każdym razie +1 dla obu!
user7064,
1
@Macro: +1 również dla Ciebie. Rozbieżność i szerokość przedziału są oczywiście mniej więcej równoważne. Wielkie umysły myślą podobnie - i nasze. ;)
MånsT
n=(2)1,650,950,05/0,01)2)
0

Odchylenie standardowe populacjinre95%re=1,96×Pop.Std.Devnn=(1,96×Pop.Std.Dev)2)re2)

Wykonanie większej liczby symulacji (przy założeniu, że wszystkie próbki są generowane przez losowy proces) nie ma wpływu na oszacowanie pod względem dokładności lub błędu.

95%np(1-p)n

Michael R. Chernick
źródło
4
Cześć Michał. Myślę, że ta odpowiedź nie ma sensu. OP próbuje zbadać, w jaki sposób zmieniają się właściwości pokrycia przedziału ufności, gdy założymy stałą wariancję, ale prawdziwa wariancja nie jest stała.
Makro,
@Macro: Masz rację. Celowo umieszczam pytanie w szerszym kontekście, aby uniknąć odpowiedzi specyficznych dla problemu zakładania stałej wariancji.
user7064,
@Macro To nie było pytanie, na które odpowiedziałem. Najwyraźniej wyjaśniono to później. Wydaje się również, że przedmiotem zainteresowania była dokładność przedziału ufności, który wykorzystuje normalne przybliżenie. Wydaje się, że nie ma na to odpowiedzi w żadnej z odpowiedzi.
Michael R. Chernick,
4
@Michael, tak, wiem - chodziło mi o to, że ty (i ja) poprosiłeś o wyjaśnienia, ale nie czekałeś na wyjaśnienie przed opublikowaniem odpowiedzi. Re: Twój drugi komentarz, możesz w ten sposób zbadać właściwości pokrycia dowolnego przedziału, niezależnie od tego, czy było to oparte na normalnym przybliżeniu, czy nie. Jeśli uważasz, że istnieje coś innego do dodania, czego brakuje w istniejących odpowiedziach, edytuj swoją odpowiedź, abyśmy wszyscy mogli się uczyć.
Makro,
@Macro Oczywiście się z tobą zgadzam. Zredagowałem swoją odpowiedź na rzecz PO. Podejrzewam, że w treści nie ma nic, czego byś nie wiedział.
Michael R. Chernick,