Intuicja za

10

Zamkniętą formę w regresji liniowej można zapisać jako

w^=(XTX)1XTy

Jak intuicyjnie wyjaśnić rolę w tym równaniu?(XTX)1

Darszak
źródło
2
Czy mógłbyś wyjaśnić, co rozumiesz przez „intuicyjnie”? Na przykład istnieje cudownie intuicyjne wyjaśnienie w kategoriach przestrzeni produktów wewnętrznych, przedstawione w Plane Odpowiedzi Christensena na złożone pytania, ale nie wszyscy docenią to podejście. Jako kolejny przykład w mojej odpowiedzi na stronie stats.stackexchange.com/a/62147/919 znajduje się geometryczne wyjaśnienie , ale nie wszyscy postrzegają relacje geometryczne jako „intuicyjne”.
whuber
Intuicyjnie przypomina to, co oznacza $ (X ^ TX) ^ {- 1}? Czy to jakiś rodzaj obliczenia odległości czy coś takiego, nie rozumiem tego.
Darshak
1
Jest to w pełni wyjaśnione w odpowiedzi, do której linkowałem.
whuber
To pytanie już istnieje, choć być może nie ma satysfakcjonującej odpowiedzi math.stackexchange.com/questions/2624986/...
Sextus Empiricus

Odpowiedzi:

5

Uważam, że te posty są szczególnie pomocne:

Jak uzyskać estymator najmniejszych kwadratów dla wielokrotnej regresji liniowej?

Związek między SVD a PCA. Jak używać SVD do wykonywania PCA?

http://www.math.miami.edu/~armstrong/210sp13/HW7notes.pdf

Jeżeli jest n x s matrycy czym macierz X ( X , T X ) - 1 x T wyznacza występ na powierzchni kolumny X . Intuicyjnie, masz nadokreślony układ równań, ale nadal chcesz go używać do definiowania liniowa mapa R pR , która będzie mapować wiersze x I od X do czegoś blisko wartości y i , i { 1 , ... , n }Xn×pX(XTX)1XTXRpRxiXyii{1,,n}. Postanawiamy więc wysłać do najbliższej rzeczy y, która może być wyrażona jako liniowa kombinacja twoich cech (kolumny X ). XyX

Jeśli chodzi o interpretację , nie mam jeszcze niesamowitej odpowiedzi. Wiem, że możesz myśleć o ( X T X ) jako o zasadzie macierzy kowariancji zestawu danych.(XTX)1(XTX)

James McKeown
źródło
jest czasami nazywany „macierzą rozproszenia” i jest po prostu powiększoną wersją macierzy kowariancji(XTX)
JacKeown,
4

Geometryczny punkt widzenia

Geometrycznej punktu widzenia może być jak n-wymiarowych wektorów i X, p będących punktami w n-wymiarowej przestrzeni V . gdzie XyXβVjest również w podprzestrzeniWobjętej przez wektoryX1,X2,,xm.Xβ^Wx1,x2,,xm

występ

Dwa rodzaje współrzędnych

Dla tej podprzestrzeni możemy wyobrazić sobie dwa różne typy współrzędnych :W

  • Do β są jak współrzędne dla regularnych współrzędnych przestrzeni. Wektor w przestrzeni W jest liniową kombinacją wektorów x i z = β 1 xzWxi
    z=β1x1+β2x1+....βmxm
  • Do α nie są współrzędne w regularnych sensie, ale robią określić punkt w podprzestrzeni . Każde α iWαi odnosi się do prostopadłych rzutów na wektory . Jeśli stosujemy wektor jednostkowy x I (dla uproszczenia), a następnie „współrzędnych” a I do wektora Z może być wyrażona jako:xixiαiz

    αi=xiTz

    oraz zbiór wszystkich współrzędnych jako:

α=XTz

Mapowanie między współrzędnymi i βαβ

dla wyrażenie „współrzędne” α staje się konwersją ze współrzędnych β na „współrzędne” αz=Xβαβα

α=XTXβ

Możesz zobaczyć jako wyrażenie, ile każdy x i rzutuje na drugi x j(XTX)ijxixj

Następnie interpretację geometryczną można postrzegać jako mapę od wektorowych „współrzędnych” α do współrzędnych liniowych β .(XTX)1αβ

β=(XTX)1α

Wyrażenie podaje rzut „współrzędnych” y iXTyy zamienia je w β .(XTX)1β


Uwaga : W projekcji „Współrzędne” od są takie same, w postaci rzutu „współrzędnych” od Y od czasu (y y^ .(yy^)X

Sextus Empiricus
źródło
Bardzo podobne konto w temacie stats.stackexchange.com/a/124892/3277 .
ttnphns
Rzeczywiście bardzo podobne. Dla mnie ten widok jest bardzo nowy i musiałem się nad tym zastanowić. Zawsze widziałem regresję najmniejszych kwadratów pod względem rzutu, ale w tym punkcie widzenia nigdy nie próbowałem zrozumieć intuicyjnego znaczenia dla części lub zawsze widziałem to w bardziej pośrednim wyrażeniu X T y = X T X β(XTX)1XTy=XTXβ .
Sextus Empiricus
3

Zakładając, że znasz prostą regresję liniową: i jej rozwiązanie : β = c o v [

yi=α+βxi+εi
β=cov[xi,yi]var[xi]

Łatwo zobaczyć, jak odpowiada licznikowi powyżej, a X X odwzorowuje na mianownik. Ponieważ mamy do czynienia z macierzami, kolejność ma znaczenie. X ' X jest macierzą KxK, a X ' y jest wektorem Kx1. Dlatego kolejność jest następująca: ( X X ) - 1XyXXXXXy(XX)1Xy

Aksakal
źródło
Ale sama ta analogia nie mówi, czy przed lub po wielokrotności z odwrotnością.
kjetil b halvorsen
@kjetilbhalvorsen, I uporządkować operacje
Aksakal