Interwał przewidywania regresji liniowej

Jeśli najlepszym przybliżeniem liniowym (przy użyciu najmniejszych kwadratów) moich punktów danych jest linia $y=mx+b$ , jak mogę obliczyć błąd przybliżenia? Jeśli obliczę odchylenie standardowe różnic między obserwacjami i prognozami $e_i=real(x_i)-(mx_i+b)$ , czy mogę później powiedzieć, że rzeczywista (ale nie zaobserwowana) wartość $y_r=real(x_0)$ należy do przedziału ( y p = m x 0 + b ) z prawdopodobieństwem ~ 68%, przy założeniu rozkładu normalnego?$[y_p-\sigma, y_p+\sigma]$$y_p=mx_0+b$

Wyjaśnić:

Dokonałem obserwacji dotyczących funkcji , oceniając ją w kilku punktach x i . Dopasowuję te obserwacje do linii l ( x ) = m x + b . Dla x 0 , którego nie obserwowałem, chciałbym wiedzieć, jak duże może być f ( x 0 ) - l ( x 0 ) . Stosując powyższą metodę, czy poprawne jest stwierdzenie, że f ( x 0 ) ∈ [ l ( x $f(x)$$x_i$$l(x)=mx+b$$x_0$$f(x_0)-l(x_0)$$f(x_0) \in [l(x_0)-\sigma, l(x_0)+\sigma]$ z prob. ~ 68%?

@whuber wskazał ci trzy dobre odpowiedzi, ale być może nadal mogę napisać coś wartościowego. Wasze wyraźne pytanie, jak rozumiem, brzmi:

Biorąc pod uwagę, my wyposażona $\hat y_i=\hat mx_i + \hat b$ (zauważ, że dodana 'kapeluszy') , i przy założeniu, że reszty moi zazwyczaj rozproszone, , można przewidzieć, że dotychczas zauważony reakcji, r n e w , o znanej wartości czynnikiem, x n e w , będzie mieścić się w przedziale ( Y - σ e , y + $\mathcal N(0, \hat\sigma^2_e)$$y_{new}$$x_{new}$ , z prawdopodobieństwem 68%?$(\hat y -\sigma_e, \hat y +\sigma_e)$

Intuitively, the answer seems like it should be 'yes', but the true answer is maybe. This will be the case when the parameters (i.e., $m, b,$ & $\sigma$) are known and without error. Since you estimated these parameters, we need to take their uncertainty into account.

$t_\text{df error}$$t$

$\hat y_\text{new}\pm t_{(1-\alpha/2,\ \text{df error})}s$, instead of $\hat y_\text{new}\pm z_{(1-\alpha/2)}s$, and go about our merry way? Unfortunately, no. The bigger issue is that there is uncertainty about your estimate of the conditional mean of the response at that location due to the uncertainty in your estimates $\hat m$ & $\hat b$. Thus, the standard deviation of your predictions needs to incorporate more than just $s_\text{error}$. Because variances add, the estimated variance of the predictions will be:

$$s^2_\text{predictions(new)}=s^2_\text{error}+\text{Var}(\hat mx_\text{new}+\hat b)$$ Notice that the "$x$" is subscripted to represent the specific value for the new observation, and that the "$s^2$" is correspondingly subscripted. That is, your prediction interval is contingent on the location of the new observation along the $x$ axis. The standard deviation of your predictions can be more conveniently estimated with the following formula: $$s_\text{predictions(new)}=\sqrt{s^2_\text{error}\left(1+\frac{1}{N}+\frac{(x_\text{new}-\bar x)^2}{\sum(x_i-\bar x)^2}\right)}$$ As an interesting side note, we can infer a few facts about prediction intervals from this equation. First, prediction intervals will be narrower the more data we had when we built the prediction model (this is because there's less uncertainty in $\hat m$ & $\hat b$). Second, predictions will be most precise if they are made at the mean of the $x$ values you used to develop your model, as the numerator for the third term will be $0$. The reason is that under normal circumstances, there is no uncertainty about the estimated slope at the mean of $x$, only some uncertainty about the true vertical position of the regression line. Thus, some lessons to be learned for building prediction models are: that more data is helpful, not with finding 'significance', but with improving the precision of future predictions; and that you should center your data collection efforts on the interval where you will need to be making predictions in the future (to minimize that numerator), but spread the observations as widely from that center as you can (to maximize that denominator).

Having calculated the correct value in this manner, we can then use it with the appropriate $t$ distribution as noted above.