Na regressão linear simples, o intervalo de confiança para o valor médio da resposta e o intervalo de confiança para a predição associada a uma nova observação têm a mesma amplitude.

A distância de Cook serve para avaliar se um dado resíduo é um valor discrepante (outlier).

Dado um conjunto de possíveis regressores, a regressão passo a passo (ou stepwise regression) testa todos os possíveis conjuntos de regressores.

A estatística PRESS é uma medida de quão bom o modelo é para realizar predições de novas observações.

Seja o modelo de regressão linear com as suposições usuais: observações independentes e termo de erro com média zero e variância constante. Então as estimativas dos coeficientes pelo método dos mínimos quadrados tendem a ser maiores do que estimativas feitas pelo método da máxima verossimilhança.