残差平方和とは、残差の2乗の総和のことです。
データを\(y_i\)、予測値を\(\hat{y}_i\)、データの数を\(n\)とした場合、残差平方和\(\mathrm{RSS}\)は、以下のように表されます。
\[\mathrm{RSS}=\sum_{i=1}^{n}(y_i-\hat{y}_i)^2\]