Když sada dat obsahuje dvě proměnné, které se mohou týkat, jako jsou výšky a váhy jednotlivců, regresní analýza najde matematickou funkci, která nejlépe aproximuje vztah. Součet reziduí je měřítkem toho, jak dobrou práci tato funkce dělá.
V regresní analýze zvolíme jednu proměnnou jako „vysvětlující proměnnou“, kterou budeme nazývat x, a druhou jako „proměnnou odezvy“, kterou budeme nazývat y. Regresní analýza vytvoří funkci y = f (x), která nejlépe předpovídá proměnnou odezvy z její přidružené vysvětlující proměnné. Pokud je x [i] jednou z vysvětlujících proměnných a y [i] její proměnnou odezvy, pak zbytkem je chyba nebo rozdíl mezi skutečnou hodnotou y [i] a předpovězenou hodnotou y [i]. Jinými slovy, zbytkové = y [i] - f (x [i]).
Sada dat obsahuje výšky v centimetrech a hmotnosti v kilogramech 5 osob: [(152,54), (165,65), (175,100), (170,80), (140, 45)]. Kvadratické uložení hmotnosti, w, pro výšku, h, je w = f (h) = 1160 -15,5_h + 0,054_h ^ 2. Zbytky jsou (v kg): [2,38, 7,65, 1,25, 5,60, 3,40]. Součet zbytků je 15,5 kg.
Nejjednodušší druh regrese je lineární regrese, ve které je matematickou funkcí přímka ve tvaru y = m * x + b. V tomto případě je součet reziduí z definice 0.