É comum encontrar a regressão linear apresentada atualmente como uma espécie de "Hello World" do aprendizado de máquina. A comparação faz sentido pedagogicamente: trata-se de um modelo simples, fácil de implementar e fundamental para compreender conceitos como treinamento, função de custo, parâmetros e previsão.
Historicamente, porém, essa perspectiva é bastante recente. A ideia de ajustar relações matemáticas a dados possui raízes profundas na astronomia, na geodésia e na Física matemática dos séculos XVIII e XIX.
O método dos mínimos quadrados foi formalizado no início do século XIX, associado principalmente aos trabalhos de Adrien-Marie Legendre e Carl Friedrich Gauss. Seu desenvolvimento esteve intimamente ligado a um problema essencial para a ciência: como obter a melhor estimativa de uma grandeza quando as observações experimentais não são perfeitamente iguais?
Essa questão permanece central na ciência contemporânea. Um detector de partículas, um telescópio, um espectrômetro ou um sensor de temperatura produz dados que inevitavelmente contêm flutuações. A análise estatística não elimina essas flutuações; ela procura extrair delas a informação física relevante.
Assim, a regressão linear não nasceu com a inteligência artificial. Ela pertence à longa tradição da análise quantitativa de dados científicos.
| Período | Cientista | Contribuição |
|---|---|---|
| Século XVIII | Astrônomos e matemáticos | Desenvolvimento de métodos para lidar com erros de observação. |
| 1805 | Adrien-Marie Legendre | Publicação de uma formulação sistemática do método dos mínimos quadrados. |
| Século XIX | Carl Friedrich Gauss e outros | Desenvolvimento e interpretação probabilística dos métodos de ajuste. |
| Séculos XX–XXI | Estatística, Física e ciência de dados | Expansão dos métodos de regressão para grandes conjuntos de dados e aprendizado de máquina. |