Załóżmy, że próbka danych to . Załóżmy również, że mamy funkcję kowariancji k ( x 1 , x 2 ) i średnią zero określoną dla procesu Gussian. Rozkład dla nowego punktu x będzie Gaussa ze średnią m ( x ) = k K - 1 rokre = ( X, y ) = { xja, yja= y( xja)}N.i = 1k ( x1, x2))x
m ( x ) = k K.- 1y
oraz odchylenia
Wektor
k = { k ( x , x 1 ) , … , k ( x , x N ) } jest wektorem kowariancji, macierzy
K = { k ( x i , x j ) } N iV.( x ) = k ( x , x ) - k K- 1kT..
k ={k( x , x1) , … , K ( x , xN.) } jest macierzą kowariancji próbek. W przypadku, gdy dokonujemy prognozy przy użyciu średniej wartości rozkładu bocznego dlachwytów
właściwości interpolacjipróbki. Naprawdę,
m(X)=KK-1y=y.
Nie dzieje się tak jednak, jeśli używamy regularyzacji, tj. Uwzględniamy termin białego szumu. w tym przypadku macierz kowariancji dla próbki ma postać
K+σI, ale dla kowariancji z rzeczywistymi wartościami funkcji mamy macierz kowariancji
K, a średnia tylna to
m(X)=KK.= { k ( xja, xjot) }N.i , j = 1m ( X) = KK.- 1y = y .
K.+ σjaK.
Ponadto regularyzacja sprawia, że problem jest bardziej stabilny obliczeniowo.
m ( X) = K( K+ σja)- 1y ≠ y .
Wybierając wariancję szumu możemy wybrać, czy chcemy interpolacji ( σ = 0 ), czy też chcemy obsługiwać głośne obserwacje ( σ jest duże).σσ= 0σ
kO ( n )n