Wątpliwości dotyczące wyprowadzenia równań regresji procesu Gaussa w pracy

Czytam ten przedruk i mam trudności z wyprowadzeniem równań dla regresji procesu Gaussa. Używają ustawień i notacji Rasmussen i Williams . Tak więc hałas addytywny, zerowy, stacjonarny i normalnie rozłożony z wariancją$\sigma^2_{noise}$ zakłada się:

$$y=f(\mathbf{x})+\epsilon, \quad \epsilon\sim N(0,\sigma^2_{noise})$$

Zakłada się, że GP poprzedził średnią zero $f(\mathbf{x})$, co oznacza że $\forall \ d\in N$, $\mathbf{f}=\{f(\mathbf{x_1}),\dots,f(\mathbf{x_d})\}$ jest wektorem Gaussa ze średnią 0 i macierzą kowariancji

$$\Sigma_d=\pmatrix{k(\mathbf{x_1},\mathbf{x_1})& & k(\mathbf{x_1},\mathbf{x_d}) \\ & \ddots & \\k(\mathbf{x_d},\mathbf{x_1})& & k(\mathbf{x_d},\mathbf{x_d}) }$$

Odtąd zakładamy, że hiperparametry są znane. Zatem równanie (4) artykułu jest oczywiste:

$$p(\mathbf{f},\mathbf{f^*})=N\left(0,\pmatrix { K_{\mathbf{f},\mathbf{f}} & K_{\mathbf{f^*},\mathbf{f}} \\K_{\mathbf{f^*},\mathbf{f}} & K_{\mathbf{f^*},\mathbf{f^*}}} \right)$$

Tu pojawiają się wątpliwości:

1. Równanie (5):

   $$p(\mathbf{y}|\mathbf{f})=N\left(\mathbf{f},\sigma^2_{noise}I \right)$$

   $E[\mathbf{f}]=0$, ale przypuszczam $E[\mathbf{y}|\mathbf{f}]=\mathbf{f}\neq0$ ponieważ kiedy warunkuję $\mathbf{f}$, a następnie gdzie jest wektorem stałym i tylko jest losowy. Poprawny?$\mathbf{y}=\mathbf{c}+\boldsymbol{\epsilon}$$\mathbf{c}$$\boldsymbol{\epsilon}$

2. W każdym razie jest to równanie (6), które jest dla mnie bardziej niejasne:

   $$p(\mathbf{f},\mathbf{f^*}|\mathbf{y})=\frac{p(\mathbf{f},\mathbf{f^*})p(\mathbf{y}|\mathbf{f})}{p(\mathbf{y})}$$

   To nie jest zwykła forma twierdzenia Bayesa. Twierdzenie Bayesa byłoby

   $$p(\mathbf{f},\mathbf{f^*}|\mathbf{y})=\frac{p(\mathbf{f},\mathbf{f^*})p(\mathbf{y}|\mathbf{f},\mathbf{f^*})}{p(\mathbf{y})}$$

   Rozumiem, dlaczego te dwa równania są takie same: intuicyjnie wektor odpowiedzi zależy tylko od odpowiedniego ukrytego wektora , a zatem uwarunkowany na lub on powinien prowadzić do tej samej dystrybucji. Jest to jednak intuicja, a nie dowód! Czy możesz mi pomóc pokazać, dlaczego$\mathbf{y}$$\mathbf{f}$$\mathbf{f}$$(\mathbf{f},\mathbf{f^*})$

   $$p(\mathbf{y}|\mathbf{f},\mathbf{f^*})=p(\mathbf{y}|\mathbf{f})$$

1. Jeśli naprawimy , wówczas wszelka niepewność w wynika z hałasu. Tak więc dla równania (5) w tym artykule podano, że mamy w każdym punkcie niezależny szum z wariancją i średnią zero . Dodajemy początkową średnią i otrzymujemy odpowiedź.$\mathbf{f}$$\mathbf{y}$$\mathbf{f}$$\sigma_{noise}^2$$0$
2. Jednym ze sposobów udowodnienia sugerowanej równości jest znalezienie rozkładu na po lewej stronie i po prawej stronie jakości. Oba są gaussowskie, dla lewej strony już znamy odpowiedź. Po prawej stronie postępujemy w podobny sposób. Znajdźmy rozkład warunkowy dla . Z wyniku pierwszej części wiemy: Za pomocą reguł prawdopodobieństwa łatwo jest zintegrować z $$p(\mathbf{y} | \mathbf{f}, \mathbf{f}^*) = p(\mathbf{y} | \mathbf{f})$$ $(\mathbf{y}, \mathbf{y}^*)$ $$p(\mathbf{y}, \mathbf{y}^* | \mathbf{f}, \mathbf{f}^*) = \mathcal{N}((\mathbf{f}, \mathbf{f}^*), \sigma^2_{noise} I).$$ $\mathbf{y}^*$$(\mathbf{y}, \mathbf{y}^*)$, ponieważ macierz kowariancji jest ukośna, a wektory i są niezależne. W ten sposób otrzymujemy: $\mathbf{y}$$\mathbf{y}^*$ $$p(\mathbf{y} | \mathbf{f}, \mathbf{f}^*) = \mathcal{N}(\mathbf{f}, \sigma^2_{noise} I) = p(\mathbf{y} | \mathbf{f}).$$