Widziałem i podobało mi się pytanie Zrozumienie analizy głównych składników , a teraz mam to samo pytanie dotyczące analizy niezależnych składników. Chcę zadać kompleksowe pytanie na temat intuicyjnych sposobów rozumienia ICA?
Chcę to zrozumieć . Chcę to zrozumieć. Chcę to poczuć. Mocno w to wierzę:
Tak naprawdę czegoś nie rozumiesz, chyba że możesz wyjaśnić to swojej babci.
- Albert Einstein
Nie mogę wyjaśnić tej koncepcji laikowi ani babci
- Dlaczego ICA? Jaka była potrzeba tej koncepcji?
- Jak wytłumaczysz to laikowi?
Odpowiedzi:
Oto moja próba.
tło
Rozważ następujące dwa przypadki.
W obu przypadkach chodzi o to, jak przywrócić rozmowę (w 1.) lub wizerunek psa (w 2.), biorąc pod uwagę dwa obrazy, które zawierają te same dwa „źródła”, ale z nieco innym względnym udziałem każdego z nich . Z pewnością mój wykształcony wnuk może to zrozumieć!
Intuicyjne rozwiązanie
Jak możemy, przynajmniej w zasadzie, odzyskać wizerunek psa z mieszanki? Każdy piksel zawiera wartości będące sumą dwóch wartości! Cóż, gdyby każdy piksel został podany bez innych pikseli, nasza intuicja byłaby poprawna - nie bylibyśmy w stanie odgadnąć dokładnego względnego udziału każdego z pikseli.
Dostajemy jednak zestaw pikseli (lub punktów w czasie w przypadku nagrania), o których wiemy, że zachowują te same relacje. Na przykład, jeśli na pierwszym zdjęciu pies jest zawsze dwa razy silniejszy niż odbicie, a na drugim zdjęciu jest wręcz przeciwnie, to w końcu możemy być w stanie uzyskać prawidłowy wkład. Następnie możemy znaleźć właściwy sposób odjęcia dwóch dostępnych zdjęć, aby odbicie zostało dokładnie anulowane! [Matematycznie oznacza to znalezienie macierzy odwrotnej mieszaniny.]
Nurkowanie w szczegółach
Załóżmy, że posiada mieszaninę dwóch sygnałów
i powiedzmy, że chcesz odzyskać jako funkcję dwóch mieszanin, Y 1 , Y 2 . Załóżmy również, że chcesz kombinacji liniowej: S 1 = b 11 Y 1 + b 12 Y 2 . Wszystko, co musisz zrobić, to znaleźć najlepszy wektor ( b 11 , b 12 ) i tam go masz. Podobnie dla S 2 i ( b 21 , b 22 )S1 Y1,Y2 S1=b11Y1+b12Y2 (b11,b12) S2 (b21,b22) .
Ale jak to znaleźć dla ogólnych sygnałów? mogą wyglądać podobnie, mieć podobne statystyki itp. Załóżmy, że są niezależni. Jest to uzasadnione, jeśli masz zakłócający sygnał, taki jak szum lub jeśli dwa sygnały są obrazami, zakłócający sygnał może być odbiciem czegoś innego (i zrobiłeś dwa obrazy pod różnymi kątami).
Zastanówmy się więc najpierw: jeśli zsumujemy kilka niezależnych sygnałów niegaussowskich, to suma będzie „bardziej gaussowska” niż składowe. Dlaczego? ze względu na centralne twierdzenie graniczne, a także można pomyśleć o gęstości sumy dwóch indep. zmienne, czyli splot gęstości. Jeśli zsumujemy kilka niezależnych. Zmienne Bernoulliego, rozkład empiryczny będzie coraz bardziej przypominał kształt Gaussa. Czy to będzie prawdziwy gaussowski? prawdopodobnie nie (nie ma zamiaru), ale możemy zmierzyć Gaussianity sygnału na podstawie wielkości, która przypomina rozkład Gaussa. Na przykład możemy zmierzyć jego nadmiar kurtozy. Jeśli jest naprawdę wysoki, prawdopodobnie jest mniej Gaussowski niż ten o tej samej wariancji, ale z nadmiarem kurtozy bliskim zera.
Dlatego gdybyśmy znaleźli odważniki mieszające, moglibyśmy spróbować znaleźć{bij} X1,X2 {bij} i uzyskaliśmy niezależność. sygnały z powrotem.
Oczywiście, to dodaje kolejne założenie - na początku dwa sygnały muszą być niegaussowskie.
źródło
Bardzo prosty. Wyobraź sobie, że twoja babcia i członkowie rodziny zbierają się przy stole. Większe grupy ludzi rozpadają się tam, gdzie temat czatu jest specyficzny dla tej podgrupy. Twoja babcia siedzi tam i słyszy hałas wszystkich ludzi mówiących, co wydaje się być tylko kakofonią. Jeśli zwróci się do jednej grupy, może wyraźnie odizolować dyskusje w grupie nastolatków / młodzieży, jeśli zwróci się do drugiej grupy, może odizolować rozmowy dorosłych.
Podsumowując, ICA polega na izolowaniu lub wydobywaniu określonego sygnału (jedna osoba lub grupa osób mówiących) z mieszanki sygnałów (tłum mówiący).
źródło