Scomposizione della varianza nella regressione lineare

La varianza totale può essere scritta come  somma della varianza dei residui più la varianza spiegata.  Questa due quantità le abbiamo trovate grazie alle due proprietà:

1) la varianza dei residui viene dall'aver minimizzato i residui
2) e la  varianza di regressione la otteniamo  sfruttando la proprietà  che y medio teorico è uguale ad y medio osservato.

Partiamo dalla varianza totale, sommando e sottraendo il valore y* teorico si ottiene la varianza  facendo i prodotti incrociati,  ci viene in questo modo:

Che è la relazione che voglia, se dimostriamo che i doppio prodotto della varianza totale sia uguale a zero.

Ricordando le due proprietà derivanti dalle due derivate della funzione da minimizzare, rispetto ad 𝛃 e 𝞪 cioè :

Ed avendo come riferimento la seguente  retta di regressione :

Sostituiamo il valore di y* della retta al secondo  termine del doppio prodotto, e otteniamo l'uguaglianza con le due relazioni delle derivate. Quindi il doppio prodotto si annulla. E così si dimostra che la varianza totale è  uguale alla somma della varianza spiegata più la varianza dei residui.