Kui andmekogum sisaldab kahte omavahel seotud muutujat, näiteks üksikisikute kõrgust ja kaalu, leiab regressioonanalüüs matemaatilise funktsiooni, mis seose kõige paremini lähendab. Jääkide summa näitab, kui head tööd funktsioon teeb.
Regressioonanalüüsis valime ühe muutuja "selgitavaks muutujaks", mida nimetame x-ks, ja teise "muutujaks", mida nimetame y-ks. Regressioonanalüüs loob funktsiooni y = f (x), mis ennustab vastusemuutuja kõige paremini selle seotud selgitava muutuja järgi. Kui x [i] on üks selgitavatest muutujatest ja y [i] on selle vastusemuutuja, siis on jääk viga või erinevus y [i] tegeliku väärtuse ja y [i] ennustatud väärtuse vahel. Teisisõnu, jääk = y [i] - f (x [i]).
Andmekogum sisaldab 5 inimese kõrgust sentimeetrites ja kaalu kilogrammides: [(152,54), (165,65), (175,100), (170,80), (140, 45)]. Raskuse, w, pikkuse h sobivus on w = f (h) = 1160 -15,5_h + 0,054_h ^ 2. Jäägid on (kg): [2,38, 7,65, 1,25, 5,60, 3,40]. Jääkide summa on 15,5 kg.
Lihtsaim regressiooniliik on lineaarne regressioon, kus matemaatiline funktsioon on sirge joonega y = m * x + b. Sel juhul on jääkide summa definitsiooni järgi 0.