Considere um conjunto de \(N\) medidas experimentais:
\[ (x_1,y_1),(x_2,y_2),\ldots,(x_N,y_N) \]
Para cada valor \(x_i\), a reta fornece uma previsão:
\[ \hat y_i=mx_i+b \]
A diferença entre o valor medido e o valor previsto é chamada de resíduo:
\[ r_i=y_i-\hat y_i \]
Uma possibilidade seria procurar a reta que minimizasse a soma dos resíduos. Existe, porém, um problema: resíduos positivos e negativos poderiam se cancelar.
O método dos mínimos quadrados resolve essa questão minimizando a soma dos quadrados dos resíduos:
\[ S(m,b)= \sum_{i=1}^{N} \left[ y_i-(mx_i+b) \right]^2 \]
A melhor reta é aquela que torna \(S\) mínimo.
Matematicamente, isso significa procurar os valores de \(m\) e \(b\) que satisfazem:
\[ \frac{\partial S}{\partial m}=0 \qquad \text{e} \qquad \frac{\partial S}{\partial b}=0 \]
O resultado é:
\[ m= \frac{ N\sum x_i y_i - \left(\sum x_i\right) \left(\sum y_i\right) }{ N\sum x_i^2 - \left(\sum x_i\right)^2 } \]
\[ b=\bar y-m\bar x \]
Essas expressões mostram algo importante: a regressão linear pode ser calculada diretamente a partir das medidas experimentais, sem que seja necessário escolher visualmente a reta que parece "passar melhor" pelos pontos.