Dlaczego mieszanka dwóch normalnie rozłożonych zmiennych jest bimodalna tylko wtedy, gdy ich średnie różnią się co najmniej dwa razy częściej niż standardowe odchylenie standardowe?

28

Pod mieszaniną dwóch normalnych rozkładów:

https://en.wikipedia.org/wiki/Multimodal_distribution#Mixture_of_two_normal_distribution

„Mieszanina dwóch rozkładów normalnych ma do oszacowania pięć parametrów: dwa średnie, dwie wariancje i parametr mieszania. Mieszanina dwóch rozkładów normalnych z jednakowymi odchyleniami standardowymi jest bimodalna tylko wtedy, gdy ich średnie różnią się co najmniej dwukrotnie wspólnym odchyleniem standardowym . ”

Szukam pochodnej lub intuicyjnego wyjaśnienia, dlaczego tak jest. Uważam, że można to wyjaśnić w formie testu t dwóch próbek:

\frac{μ_{1} - μ_{2}}{σ_{p}}

$\frac{\mu_1-\mu_2}{\sigma_p}$

gdzie $\sigma_p$ jest zbiorczym odchyleniem standardowym.

bimodal M. Waz
źródło

1

intuicja jest taka, że jeśli środki są zbyt blisko, to będzie zbyt duże nakładanie się masy 2 gęstości, więc różnica średnich nie będzie widoczna, ponieważ różnica zostanie po prostu uchwycona przez masę dwóch gęstość. Jeśli dwa środki są wystarczająco różne, wówczas masy dwóch gęstości nie będą się na siebie nakładały, a różnica w środkach będzie zauważalna. Ale chciałbym zobaczyć matematyczny dowód na to. To ciekawe stwierdzenie. Nigdy wcześniej tego nie widziałem.

mlofton

2

Bardziej formalnie, dla mieszaniny 50:50 dwóch rozkładów normalnych o tym samym SD

jeśli zapiszesz gęstość

w pełnej postaci pokazującej parametry, zobaczymy, że jego druga pochodna zmienia znak w punkcie środkowym między dwoma średnimi, gdy odległość między średnimi wzrasta od poniżej

do powyżej.

σ,

$\sigma,$

f (x) = 0.5 g_{1} (x) + 0.5 g_{2} (x)

$f(x) = 0.5g_1(x) + 0.5g_2(x)$

2 σ

$2\sigma$

BruceET

1

Zobacz „Rayleigh Criterion”, en.wikipedia.org/wiki/Angular_resolution#Explanation

Carl Witthoft

53

Ta figura z papieru, do którego link znajduje się w tym artykule wiki, stanowi dobrą ilustrację:

Dostarczony przez nich dowód opiera się na fakcie, że rozkłady normalne są wklęsłe w granicach jednej średniej SD (SD jest punktem przegięcia normalnego pdf, gdzie przechodzi od wklęsłego do wypukłego). Tak więc, jeśli dodasz dwa normalne pliki pdf razem (w równych proporcjach), tak długo, jak ich średnie różnią się o mniej niż dwa SD, suma pdf (tj. Mieszanina) będzie wklęsła w regionie między tymi dwoma środkami, a zatem globalne maksimum musi znajdować się dokładnie w punkcie między tymi dwoma środkami.

Odnośnik: Schilling, MF, Watkins, AE i Watkins, W. (2002). Czy bimodal wysokości człowieka? The American Statistician, 56 (3), 223–229. doi: 10.1198 / 00031300265

Ruben van Bergen
źródło

11

+1 To miły, niezapomniany argument.

whuber

2

Podpis postaci stanowi również dobrą ilustrację błędnej interpretacji podwiązania „fl” w „przegięciu” :-P

nekomatic

2

@Axeman: Dziękuję za dodanie tego odniesienia - ponieważ to trochę wybuchło, sam planowałem go dodać, ponieważ tak naprawdę tylko powtarzam ich argument i nie chcę za bardzo tego przypisywać.

Ruben van Bergen

14

Jest to przypadek, w którym zdjęcia mogą wprowadzać w błąd, ponieważ wynik ten jest specjalną cechą normalnych mieszanin: analog niekoniecznie obowiązuje w przypadku innych mieszanin, nawet gdy komponenty są symetrycznymi, nieimodalnymi rozkładami! Na przykład równa mieszanina dwóch rozkładów t Studenta oddzielonych nieco mniej niż dwa razy ich wspólne odchylenie standardowe będzie bimodalna. Aby uzyskać prawdziwy wgląd, musimy wykonać matematykę lub odwołać się do specjalnych właściwości rozkładów normalnych.

$\pm\mu,$ $\mu\ge 0,$ $p,$ $0 \lt p \lt 1,$

\sqrt{2 π} f (x; μ, p) = p \exp (- \frac{(x - μ)^{2}}{2}) + (1 - p) \exp (- \frac{(x + μ)^{2}}{2}) .

$\sqrt{2\pi}f(x;\mu,p) = p \exp\left(-\frac{(x-\mu)^2}{2}\right) + (1-p) \exp\left(-\frac{(x+\mu)^2}{2}\right).$

$x\lt -\mu$ $x\gt \mu,$ $-\mu\le x \le \mu.$ $f$ $x$

0 = - e^{2 x μ} p (x - μ) + (1 - p) (x + μ) .

$0 = -e^{2x\mu} p(x-\mu) + (1-p)(x+\mu).$

$f$ $e^{2x\mu}$

f^{''} (x; μ, p) \propto \frac{(1 + x^{2} - μ^{2})}{x - μ} .

$f^{\prime\prime}(x;\mu,p) \propto \frac{(1+x^2-\mu^2)}{x-\mu}.$

$-\mu\lt x \lt \mu,$ $f^{\prime\prime}$ $-(1-\mu^2 + x^2).$ $\mu\le 1,$ $\mu$ $1$

$2\mu,$

Mieszanina rozkładów normalnych jest jednomodalna, ilekroć średnie są oddzielone nie więcej niż dwukrotnością wspólnego odchylenia standardowego.

Jest to logicznie równoważne stwierdzeniu w pytaniu.

Whuber
źródło

12

Komentarz z góry wkleił tutaj dla ciągłości:

f (x) = 0.5 g_{1} (x) + 0.5 g_{2} (x)

$f(x)=0.5g_1(x)+0.5g_2(x)$

Komentarz ciąg dalszy:

$\sigma=1.$ $3\sigma, 2\sigma,$ $\sigma,$

Kod R na rysunku:

par(mfrow=c(1,3))
  curve(dnorm(x, 0, 1)+dnorm(x,3,1), -3, 7, col="green3", 
    lwd=2,n=1001, ylab="PDF", main="3 SD: Dip")
  curve(dnorm(x, .5, 1)+dnorm(x,2.5,1), -4, 7, col="orange", 
    lwd=2, n=1001,ylab="PDF", main="2 SD: Flat")
  curve(dnorm(x, 1, 1)+dnorm(x,2,1), -4, 7, col="violet", 
    lwd=2, n=1001, ylab="PDF", main="1 SD: Peak")
par(mfrow=c(1,3))

BruceET
źródło

1

wszystkie odpowiedzi były świetne. dzięki.

mlofton

3

2 / 3

$2/3$

0.001.

$0.001.$

1

0.1 %

$0.1\%$

f

$f$

x_{0})

$x_0)$

f (x_{0}) - f (x) \leq 0.001 f (x_{0}) ⟺ | x - x_{0} | \leq 0.333433,

$f(x_0)-f(x)\le 0.001 f(x_0)\ \iff\ |x-x_0|\le 0.333433,$

0.001

$0.001$

0.95832

$0.95832$

f (x_{0}) - f (x) \leq 0.001 ⟺ | x - x_{0} | \leq 0.47916.

$f(x_0)-f(x)\le 0.001\ \iff\ |x-x_0|\le 0.47916.$

Słuszne uwagi. W rzeczywistości to, co miałem na myśli w skrócie „mieszkanie”, było zerową drugą pochodną dokładnie w punkcie środkowym.

BruceET

Dlaczego mieszanka dwóch normalnie rozłożonych zmiennych jest bimodalna tylko wtedy, gdy ich średnie różnią się co najmniej dwa razy częściej niż standardowe odchylenie standardowe?

Odpowiedzi: