相関係数(r)は、常に-1と1の間にあり、xとyなどの2セットのデータポイント間の線形関係を評価します。 相関係数は、(x x y)の正方形のサンプル補正合計(S)を、x2 xy2のサンプル補正合計の平方根で割ることによって計算できます。 方程式の形式では、これは次のことを意味します:Sxy / [√(Sxx * Syy)]。
Sは、データポイントの合計を二乗し、合計データポイントの数で除算し、二乗したデータポイントの合計からこの値を引くことによって導き出します。 たとえば、x個のデータポイントのセット(3、5、7、および9)が与えられた場合、最初に各ポイントを2乗し、次にそれらの2乗を加算することによってSxx値を計算すると、結果は164になります。 次に、この値から、これらのデータポイントの二乗和をデータポイントの数で割った値、つまり(24 * 24)/ 4を減算します。これは、144に相当します。 これにより、Sxx = 20になります。 y個のデータポイントのセット:2、4、6、および10が与えられた場合、同じ方法でSyy = 156 – [(22 * 22)/ 4]を計算します。これは35に等しく、Sxy = 158 – [(24 * 22)/ 4]、これは26に相当します。
次に、Sxx、Syy、およびSxyの確立された値を方程式Sxy / [√(Sxx * Syy)]に代入できます。 上記の値を使用すると、26 / [√(20 * 35)]になり、0.983になります。 この値は1に非常に近いため、これら2つのデータセット間に強い線形関係があることを示しています。