Różnica jąder w SVM?

Czy ktoś może mi powiedzieć różnicę między jądrami w SVM:

1. Liniowy
2. Wielomian
3. Gaussowski (RBF)
4. Sigmoid

Ponieważ, jak wiemy, jądro służy do mapowania naszej przestrzeni wejściowej na przestrzeń cech o wysokiej wymiarowości. I w tej przestrzeni cech znajdujemy liniowo oddzielalną granicę.

Kiedy są używane (pod jakim warunkiem) i dlaczego?

Jądro liniowe jest tym, czego można oczekiwać, modelem liniowym. Uważam, że wielomianowe jądro jest podobne, ale granica jest w pewnym określonym, ale arbitralnym porządku

(np. zamówienie 3: ).$a= b_1 + b_2 \cdot X + b_3 \cdot X^2 + b_4 \cdot X^3$

RBF wykorzystuje krzywe normalne wokół punktów danych i sumuje je, aby granicę decyzyjną można zdefiniować na podstawie rodzaju warunków topologicznych, takich jak krzywe, w których suma jest wyższa niż 0,5. (patrz to zdjęcie )

Nie jestem pewien, czym jest jądro sigmoidalne, chyba że jest ono podobne do modelu regresji logistycznej, w którym funkcja logistyczna jest używana do definiowania krzywych zgodnie z tym, gdzie wartość logistyczna jest większa niż pewna wartość (prawdopodobieństwo modelowania), na przykład 0,5 jak normalna walizka.

Opierając się na podstawowej wiedzy czytelnika na temat jąder.

Jądro liniowe: $K(X, Y) = X^T Y$

$K(X, Y) = (γ\cdot X^T Y + r)^d , γ > 0$

$K(X, Y) = \exp(\|X-Y\|^2/2σ^2)$$\exp(-γ \cdot \|X - Y\|^2), γ > 0$

Jądro Sigmoid: który jest podobny do funkcji sigmoidalnej w regresji logistycznej.$K(X, Y) = \tanh(γ\cdot X^TY + r)$

Tutaj , i są parametrami jądra.d $r$$d$$γ$

Na to pytanie można odpowiedzieć z teoretycznego i praktycznego punktu widzenia. Z teorii zgodnie z twierdzeniem No-Free Lunch wynika, że ​​nie ma gwarancji, że jedno jądro będzie działać lepiej niż drugie. Jest to a priori, którego nigdy nie wiesz ani nie możesz dowiedzieć się, które jądro będzie działać lepiej.

Z praktycznego punktu widzenia zapoznaj się z następującą stroną:

Jak wybrać jądro dla SVM?

Zastanawiając się nad tym, do czego jądro jest „dobre” lub kiedy należy go używać, nie ma twardych i szybkich reguł.

Jeśli twój klasyfikator / regressor działa dobrze z danym jądrem, dobrze jest, jeśli nie, rozważyć zmianę na inne.

Wgląd w to, jak może działać twoje jądro, szczególnie jeśli jest to model klasyfikacyjny, można uzyskać, przeglądając niektóre przykłady wizualizacji, np. Https://gist.github.com/WittmannF/60680723ed8dd0cb993051a7448f7805