散布図 とその相関係数の一覧。相関は非線形性および直線関係の向きを反映するが(上段)、その関係の傾きや(中段)、非直線関係の多くの面も反映しない(下段)。中央の図の傾きは0であるが、この場合はY の分散が0であるため相関係数は定義されない。
相関係数 (そうかんけいすう、英 : correlation coefficient )とは、2つのデータ または確率変数 の間にある線形な関係の強弱を測る指標である。相関係数は無次元量 で、−1以上1以下の実数 に値をとる。相関係数が正 のとき確率変数には正の相関 が、負のとき確率変数には負の相関 があるという。また相関係数が0のとき確率変数は無相関 であるという[4] 。
たとえば、先進諸国 の失業率 と実質経済成長率 は強い負の相関関係にあり、相関係数を求めれば−1に近い数字になる。
相関係数が ±1 に値をとることは、2つのデータ(確率変数)が線形の関係にあるときに限る。また2つの確率変数が互いに独立 ならば相関係数は 0 となるが、逆は成り立たない。
普通、単に相関係数といえばピアソン の積率相関係数 を指す。ピアソン積率相関係数の検定は偏差の正規分布 を仮定する(パラメトリック)方法である[7] が、他にこのような仮定を置かないノンパラメトリックな方法 として、スピアマンの順位相関係数 、ケンドールの順位相関係数 なども一般に用いられる[8] [9] 。
定義
相関
日本産業規格 では、相関(そうかん:correlation)を、「二つの確率変数の分布法則の関係。多くの場合,線形関係の程度を指す。」と定義している[10] 。
相関係数
正の分散 を持つ確率変数 X , Y が与えられたとき、共分散 を
cov
-->
[
X
,
Y
]
{\displaystyle \operatorname {cov} [X,Y]}
、標準偏差 を σX , σY とおく。このとき
ρ ρ -->
=
cov
-->
[
X
,
Y
]
σ σ -->
X
σ σ -->
Y
{\displaystyle \rho ={\frac {\operatorname {cov} [X,Y]}{\sigma _{X}\sigma _{Y}}}}
を確率変数 X と Y の相関係数 という。これは期待値 を E […] で表せば
ρ ρ -->
=
E
[
(
X
− − -->
E
[
X
]
)
(
Y
− − -->
E
[
Y
]
)
]
E
[
(
X
− − -->
E
[
X
]
)
2
]
E
[
(
Y
− − -->
E
[
Y
]
)
2
]
{\displaystyle \rho ={\frac {E\left[\left(X-E\left[X\right]\right)\left(Y-E\left[Y\right]\right)\right]}{\sqrt {E\left[\left(X-E\left[X\right]\right)^{2}\right]E\left[\left(Y-E\left[Y\right]\right)^{2}\right]}}}}
と書き直すこともできる。
母集団相関係数
標本相関係数
大きさの同じ2個のデータ (x 1 , x 2 , …, xn ), (y 1 , y 2 , …, yn ) に対して、標本共分散 を sxy 、標本標準偏差 をそれぞれ sx , sy とおく。このとき
r
:=
s
x
y
s
x
s
y
=
∑ ∑ -->
i
=
1
n
(
x
i
− − -->
x
¯ ¯ -->
)
(
y
i
− − -->
y
¯ ¯ -->
)
∑ ∑ -->
i
=
1
n
(
x
i
− − -->
x
¯ ¯ -->
)
2
∑ ∑ -->
i
=
1
n
(
y
i
− − -->
y
¯ ¯ -->
)
2
{\displaystyle r:={\frac {s_{xy}}{s_{x}s_{y}}}={\frac {\sum \limits _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)\left(y_{i}-{\overline {y}}\right)}{\sqrt {\sum \limits _{i=1}^{n}(x_{i}-{\overline {x}})^{2}\sum \limits _{i=1}^{n}(y_{i}-{\overline {y}})^{2}}}}}
を標本相関係数 (sample correlation coefficient) あるいはピアソン の積率相関係数 という。ただし、x , y はそれぞれデータ (x 1 , x 2 , …, xn ), (y 1 , y 2 , …, yn ) の平均値 で、
x
¯ ¯ -->
=
1
n
∑ ∑ -->
i
=
1
n
x
i
{\displaystyle {\overline {x}}={\frac {1}{n}}\textstyle \sum \limits _{i=1}^{n}x_{i}}
,
y
¯ ¯ -->
=
1
n
∑ ∑ -->
i
=
1
n
y
i
{\displaystyle {\overline {y}}={\frac {1}{n}}\textstyle \sum \limits _{i=1}^{n}y_{i}}
である。
相関係数は、幾何学 的には次のような意味になる。
データ (x 1 , x 2 , …, xn ), (y 1 , y 2 , …, yn ) をそれぞれ n 次の列ベクトル x = [x 1 x 2 ... x n ]⊤ , y = [y 1 y 2 ... y n ]⊤ と考えると、x , y の偏差 ベクトルはそれぞれ以下のようになる。
x
− − -->
x
¯ ¯ -->
1
=
[
x
1
− − -->
x
¯ ¯ -->
x
2
− − -->
x
¯ ¯ -->
⋮ ⋮ -->
x
n
− − -->
x
¯ ¯ -->
]
,
y
− − -->
y
¯ ¯ -->
1
=
[
y
1
− − -->
y
¯ ¯ -->
y
2
− − -->
y
¯ ¯ -->
⋮ ⋮ -->
y
n
− − -->
y
¯ ¯ -->
]
{\displaystyle {\boldsymbol {x}}-{\overline {x}}\,{\boldsymbol {1}}={\begin{bmatrix}x_{1}-{\overline {x}}\\x_{2}-{\overline {x}}\\\vdots \\x_{n}-{\overline {x}}\end{bmatrix}},\;{\boldsymbol {y}}-{\overline {y}}\,{\boldsymbol {1}}={\begin{bmatrix}y_{1}-{\overline {y}}\\y_{2}-{\overline {y}}\\\vdots \\y_{n}-{\overline {y}}\end{bmatrix}}}
ただし、1 は全ての成分が1である n 次の列ベクトルで、1 = [1 1 ... 1]⊤ である。このとき、x , y の偏差 ベクトル x − x 1 , y − y 1 のなす角 を θ としたときの
cos
-->
θ θ -->
=
⟨ ⟨ -->
x
− − -->
x
¯ ¯ -->
1
,
y
− − -->
y
¯ ¯ -->
1
⟩ ⟩ -->
‖ ‖ -->
x
− − -->
x
¯ ¯ -->
1
‖ ‖ -->
‖ ‖ -->
y
− − -->
y
¯ ¯ -->
1
‖ ‖ -->
{\displaystyle \cos \theta ={\frac {\langle {\boldsymbol {x}}-{\overline {x}}\,{\boldsymbol {1}},\;{\boldsymbol {y}}-{\overline {y}}\,{\boldsymbol {1}}\rangle }{\|{\boldsymbol {x}}-{\overline {x}}\,{\boldsymbol {1}}\|\|{\boldsymbol {y}}-{\overline {y}}\,{\boldsymbol {1}}\|}}}
が標本相関係数 r である。ここで、⟨ ●, ●⟩ は内積 を表す。
データ (x 1 , x 2 , …, xn ), (y 1 , y 2 , ..., yn ) が2次元正規分布 からの標本のとき、標本相関係数 r は母集団相関係数 ρ の最尤推定 量ではあるが、不偏推定量 ではなく(絶対値で見ると)小さめに見積もりがちである。また外れ値 に大きく影響してしまう。
順位相関係数
誤解や誤用
相関と因果の混同
相関係数は、あくまでも確率変数 の間にある線形な関係の尺度に過ぎない。また、確率変数 間の因果関係を説明するものでもない。相関係数は順序尺度 であり比尺度 ではないので、例えば「相関係数が0.2と0.4であることから、後者は前者より2倍の相関がある」などと言うことはできない。
しばしば、相関があるという表現が、あたかも因果関係を示しているかのように誤解あるいは誤用される。
2つの変数(A,B)間に相関が見られる場合、偶然による相関を除けば、次の3つの可能性が想定される(相関と因果の違いに関する誤解・誤用において目立つのは、3番目の場合である)。
AがBを発生させる
BがAを発生させる
第3の変数CがAとBを発生させる(この場合、AとBの間に因果関係はなく擬似相関 と呼ばれる)
因果的な効果の推定ににあたっては、単に相関を見るだけでは分からない。ジューディア・パール [12] やドナルド・ルービン [13] などによってまとめられてきた統計的因果推論などに則った調査研究を実施する必要がある。
相関係数と回帰係数の混同
相関分析とは2変数の間に線形関係があるかどうか、およびその強さについての分析であり、2つの変数の間に質的な区別を仮定しない。それに対し回帰分析 とは、変数の間にどのような関係があるか(具体的な関数の形)についての分析であり、また説明変数によって目的変数を予測するのを目的としている。
初学者によく見られる勘違いとして、相関係数と回帰係数が取り違えて理解されることが多い。
また、回帰式を作ることは、あくまで予測モデルを立てることに過ぎず、回帰分析によって因果関係の推定が直接的にできるわけではない。
HARKing
また、多数のデータを比較したときに、たまたま相関係数が強く出た組み合わせの結果をもとに、事前の仮説を訂正して論文を書き上げる行為は、HARKing と呼ばれる。探索的研究としてではなく、仮説検証型の研究としてHARKingを行った論文を公表することは、偶然の結果を、あたかも強い意味がある結果であるかのように誤認させ、第一種や第二種の過誤 をしてしまう可能性が高いため、研究の手続きとして大きな問題がある。
脚注
参考文献
関連項目