Dlaczego iloczyn współczynników regresji dwuwymiarowej linii on- i -on- równy kwadratowi korelacji?

11

Tam, gdzie model regresji z a , który ma współczynnik korelacji . $Y = a + bX$ $a = 1.6$ $b=0.4$ $r = 0.60302$

Jeżeli i są wówczas zamienione, a Równanie , gdzie i , to także ma wartość . $X$ $Y$ $X = c + dY$ $c=0.4545$ $d=0.9091$ $r$ $0.60302$

Mam nadzieję, że ktoś może wyjaśnić, dlaczego ma również wartość . $(d\times b)^{0.5}$ $0.60302$

correlation regression-coefficients Mikrofon
źródło

17

$b = r \; \text{SD}_y / \text{SD}_x$ i , więc . $d = r \; \text{SD}_x / \text{SD}_y$ $b\times d = r^2$

Dotknęłoby tego wiele podręczników statystycznych; Lubię Freedman i in., Statistics . Zobacz także tutaj i ten artykuł w Wikipedii .

Karl
źródło

10

Spójrz na Trzynaście sposobów spojrzenia na współczynnik korelacji - a szczególnie sposoby 3, 4, 5 będą dla ciebie najbardziej interesujące.

Rodgers, JL i Nicewander, WA (1988). Trzynaście sposobów spojrzenia na współczynnik korelacji . The American Statistician, 42, 1 , ss. 59–66.

Ciekawy
źródło

2

To prawdopodobnie powinien być komentarz. Pamiętaj, że link utracił ważność. Zaktualizowałem link i podałem pełny cytat. Czy możesz opracować lub podać jakieś dodatkowe informacje, aby były one nadal cenne, nawet jeśli link ponownie zniknie?

Gung - Przywróć Monikę

2

Artykuł Rodgers i Nicewander został streszczony na naszej stronie pod adresem stats.stackexchange.com/q/70969/22228 .

whuber

3

$\DeclareMathOperator{\Cov}{Cov}$ $\DeclareMathOperator{\Corr}{Corr}$ $\DeclareMathOperator{\SD}{SD}$ $\DeclareMathOperator{\Var}{Var}$ $\DeclareMathOperator{\sgn}{sgn}$ $\DeclareMathOperator{\nsum}{\sum_{i=1}^{n}}$

Przypomnij sobie, że definiuje wiele tekstów wprowadzających

S_{x y} = \sum_{i = 1}^{n} (x_{i} - \bar{x}) (y_{i} - \bar{y})

$S_{xy} = \nsum (x_i - \bar x)(y_i - \bar y)$

Następnie, ustawiając jako , mamy i podobnie . $y$ $x$ $S_{xx} = \nsum (x_i - \bar x)^2$ $S_{yy} = \nsum (y_i - \bar y)^2$

Wzór na współczynnik korelacji , nachylenie -on- regresji (swoją ) i nachylenie -on- regresji (swoją ) są często stosowane jako: $r$ $y$ $x$ $b$ $x$ $y$ $d$

\begin{aligned} (1) & r & = \frac{S_{x y}}{\sqrt{S_{x x} S_{y y}}} \\ (2) & {\hat{β}}_{y on x} & = \frac{S_{x y}}{S_{x x}} \\ (3) & {\hat{β}}_{x on y} & = \frac{S_{x y}}{S_{y y}} \end{aligned}

$\begin{align} r &= \frac{S_{xy}}{\sqrt{S_{xx}S_{yy}}} \tag{1} \\ \hat \beta_{y\text{ on }x} &= \frac{S_{xy}}{S_{xx}} \tag{2} \\ \hat \beta_{x\text{ on }y} &= \frac{S_{xy}}{S_{yy}} \tag{3} \end{align}$

Następnie pomnożenie i wyraźnie daje kwadrat : $(2)$ $(3)$ $(1)$

{\hat{β}}_{y on x} \cdot {\hat{β}}_{x on y} = \frac{S_{x y}^{2}}{S_{x x} S_{y y}} = r^{2}

$\hat \beta_{y\text{ on }x} \cdot \hat \beta_{x\text{ on }y} = \frac{S_{xy}^2}{S_{xx}S_{yy}} = r^2$

Alternatywnie, liczniki i mianowniki ułamków w , i są często dzielone przez lub tak że rzeczy są ujęte w zakresie próbek lub szacunkowych wariancji i kowariancji. Na przykład z szacowany współczynnik korelacji jest tylko szacunkową kowariancją, skalowaną przez szacowane odchylenia standardowe: $(1)$ $(2)$ $(3)$ $n$ $(n-1)$ $(1)$

\begin{aligned} (4) & r & = \hat{Corr} (X, Y) = \frac{\hat{Cov} (X, Y)}{\hat{SD (X)} \hat{SD (Y)}} \\ (5) & {\hat{β}}_{y on x} & = \frac{\hat{Cov} (X, Y)}{\hat{Var (X)}} \\ (6) & {\hat{β}}_{x on y} & = \frac{\hat{Cov} (X, Y)}{\hat{Var (Y)}} \end{aligned}

$\begin{align} r &= \widehat \Corr(X,Y) = \frac{\widehat \Cov(X,Y)}{\widehat{\SD(X)}\widehat{\SD(Y)}} \tag{4} \\ \hat \beta_{y\text{ on }x} &= \frac{\widehat \Cov(X,Y)}{\widehat{\Var(X)}} \tag{5} \\ \hat \beta_{x\text{ on }y} &= \frac{\widehat \Cov(X,Y)}{\widehat{\Var(Y)}} \tag{6} \end{align}$

Następnie natychmiast znaleźć z pomnożenia i , które $(5)$ $(6)$

{\hat{β}}_{y on x} {\hat{β}}_{x on y} = \frac{\hat{Cov} (X, Y)^{2}}{\hat{Var (X)} \hat{Var (Y)}} = {(\frac{\hat{Cov} (X, Y)}{\hat{SD (X)} \hat{SD (Y)}})}^{2} = r^{2}

$\hat \beta_{y\text{ on }x} \hat \beta_{x\text{ on }y} = \frac{\widehat \Cov(X,Y)^2}{\widehat{\Var(X)}\widehat{\Var(Y)}} = \left( \frac{\widehat \Cov(X,Y)}{\widehat{\SD(X)}\widehat{\SD(Y)}} \right)^2 = r^2$

Zamiast tego moglibyśmy zmienić układ aby zapisać kowariancję jako korelację „przeskalowaną”: $(4)$

\begin{matrix} (7) & \hat{Cov} (X, Y) = r \cdot \hat{SD (X)} \hat{SD (Y)} \end{matrix}

$\widehat \Cov(X,Y) = r\cdot \widehat{\SD(X)} \widehat{\SD(Y)} \tag{7}$

Następnie, podstawiając w i , moglibyśmy przepisać współczynniki regresji jako i . Pomnożenie ich razem spowodowałoby również , i to jest rozwiązanie @ Karla. Zapisanie nachyleń w ten sposób pomaga wyjaśnić, w jaki sposób możemy postrzegać współczynnik korelacji jako znormalizowane nachylenie regresji . $(7)$ $(5)$ $(6)$ $\hat \beta_{y\text{ on }x} = r \frac{\widehat \SD(y)}{\widehat \SD(x)}$ $\hat \beta_{x\text{ on }y} = r \frac{\widehat \SD(x)}{\widehat \SD(y)}$ $r^2$

Na koniec zauważ, że w twoim przypadku ale było to spowodowane twoją korelacją było pozytywne. Jeśli twoja korelacja była ujemna, musiałbyś wziąć ujemny pierwiastek. $r = \sqrt{bd} =\sqrt{\hat \beta_{y\text{ on }x} \hat \beta_{x\text{ on }y}}$

Wypracowanie czy korelacja jest dodatnia lub ujemna, po prostu trzeba uważać znak (plus lub minus) swojego współczynnika regresji - to nie kwestia czy nie patrzysz na -on-0 lub -on- ponieważ ich znaki będą takie same. Możesz więc użyć wzoru: $y$ $x$ $x$ $y$

r = sgn ({\hat{β}}_{y on x}) \sqrt{{\hat{β}}_{y on x} {\hat{β}}_{x on y}}

$r = \sgn(\hat \beta_{y\text{ on }x}) \sqrt{\hat \beta_{y\text{ on }x} \hat \beta_{x\text{ on }y}}$

gdzie jest funkcją signum , tj. wynosi jeśli nachylenie jest dodatnie, a jeśli nachylenie jest ujemne. $\sgn$ $+1$ $-1$

Silverfish
źródło

1

Może się okazać, że moja odpowiedź jest interesująca, nawet jeśli nie odnosi się wprost do zadanego tutaj pytania.

Dilip Sarwate

Dlaczego iloczyn współczynników regresji dwuwymiarowej linii on- i -on- równy kwadratowi korelacji?

Odpowiedzi: