Ślepe oddzielenie wypukłej mieszanki?

Załóżmy, że mam niezależnych źródeł, i obserwuję wypukłych mieszanin: $n$ $X_1, X_2, ..., X_n$ $m$

\begin{aligned} Y_{1} & = a_{11} X_{1} + a_{12} X_{2} + \dots + a_{1 n} X_{n} \\ . . . \\ Y_{m} & = a_{m 1} X_{1} + a_{m 2} X_{2} + \dots + a_{m n} X_{n} \end{aligned}

$\begin{align} Y_1 &= a_{11}X_1 + a_{12}X_2 + \cdots + a_{1n}X_n\\ ...&\\ Y_m &= a_{m1}X_1 + a_{m2}X_2 + \cdots + a_{mn}X_n \end{align}$

z $\sum_j a_{ij} = 1$ dla wszystkich $i$ i $a_{ij} \ge 0$ dla wszystkich $i,j$ .

Jaki jest stan techniki w odzyskiwaniu $X$ z $Y$ ?

PCA nie wchodzi w rachubę, ponieważ potrzebuję elementów do zidentyfikowania. Spojrzałem na ICA i NMF - nie mogę znaleźć żadnego sposobu narzucenia nieujemności współczynników mieszania dla ICA, a NMF nie wydaje się maksymalizować niezależności.

pca ica anonimowy
źródło

Myślę, że należy to nazwać „nieujemną analizą niezależnych składników”, ale wydaje się, że ta nazwa została użyta w przypadku ICA z ograniczeniem nieujemności w źródłach

X

$X$ , a nie w macierzy mieszania

A

$A$ ( eecs.qmul.ac.uk/ ~ markp / 2003 / Plumbley03-algorytms-c.pdf ). Nie dotyczy to twojej sprawy. Interesujące pytanie.

ameba mówi Przywróć Monikę

Czy nie chcesz, aby sumy przekraczały j zamiast ja? Czy możesz założyć, że źródła są w przybliżeniu gaussowskie? jeśli są one jednomodalne i mają wystarczająco szybki rozkład, możliwe, że wystarczy GMM.

Yair Daon,

@YairDaon Ach tak, dziękuję, dobry połów. Niestety źródła są dyskretne i nawet nie wyglądają jak mieszanki gaussów. Ale może mógłbym z grubsza je zbliżyć jako mieszanki gaussowskie, a następnie udoskonalić. Ale byłoby miło mieć coś bardziej ogólnego / solidnego

anonimowego

Jakie algorytmy ICA próbowaliście? Jestem trochę zardzewiały, ale myślę, że założenie o nieujemności współczynników mieszania można narzucić w niektórych algorytmach, które zakładają pewne modele sygnałów, takich jak algorytm WASOBI (Skorygowana identyfikacja niewidoczna drugiego rzędu) (WASOBI) modeluj sygnały jako procesy AR, a zatem możesz nałożyć warunki na współczynniki.

Néstor,

Wszystkie źródła są obsługiwane w zestawie {1,2, ..., 96}

anonimowy

Można to osiągnąć stosując wykładniczą nieliniowość zamiast typowej / domyślnej tanh (), jeśli X jest również nieujemne.

Formuła 40 w https://www.cs.helsinki.fi/u/ahyvarin/papers/NN00new.pdf i dostępna w większości wdrożeń.

Np. W sklearn wystarczy użyć fun = 'exp' https://scikit-learn.org/stable/modules/generated/sklearn.decomposition.FastICA.html

Henrique Mendonça
źródło

Witamy w Stats.SE. Czy możesz edytować swoją odpowiedź i ją rozwinąć, aby wyjaśnić kluczowe kroki podanych przez Ciebie linków? W ten sposób informacje można przeszukiwać tutaj (i czasami psują się linki). Warto zapoznać się z pomocą dotyczącą formatowania . W tym momencie możesz korzystać z LaTeX / MathJax .

Ertxiem

Ślepe oddzielenie wypukłej mieszanki?

Odpowiedzi: