Kai duomenų rinkinyje yra du kintamieji, kurie gali būti susiję, pvz., Asmenų aukštis ir svoris, regresijos analizė nustato matematinę funkciją, kuri geriausiai atspindi santykį. Likučių suma yra matas, kaip gerą darbą atlieka funkcija.
Atliekant regresijos analizę, mes pasirenkame vieną kintamąjį kaip „aiškinamąjį kintamąjį“, kurį vadinsime x, o kitą - „atsako kintamuoju“, kurį vadinsime y. Regresijos analizė sukuria funkciją y = f (x), kuri geriausiai numato atsako kintamąjį iš jo susietojo aiškinamojo kintamojo. Jei x [i] yra vienas iš paaiškinamųjų kintamųjų, o y [i] yra jo atsako kintamasis, tai likutis yra klaida arba skirtumas tarp faktinės y [i] vertės ir numatomos y [i] vertės. Kitaip tariant, liekamasis = y [i] - f (x [i]).
Duomenų rinkinyje yra 5 žmonių ūgiai centimetrais ir svoriai kilogramais: [(152,54), (165,65), (175,100), (170,80), (140, 45)]. Kvadratinis svorio, w, aukščio, h atitikimas yra w = f (h) = 1160 -15,5_h + 0,054_h ^ 2. Liekanos yra (kg): [2,38, 7,65, 1,25, 5,60, 3,40]. Likučių suma yra 15,5 kg.
Paprasčiausia regresijos rūšis yra tiesinė regresija, kurioje matematinė funkcija yra tiesi formos y = m * x + b tiesė. Šiuo atveju likučių suma pagal apibrėžimą yra 0.