前のページ 1/2 次のページ

統計学と確率論において分散共分散行列(ぶんさんきょうぶんさんぎょうれつ、Variance-covariance matrix)とは、ベクトルの要素間の共分散の行列である。これは、スカラー値をとる確率変数における分散の概念を、多次元に自然に拡張したものである。

◆ 定義

次のような列ベクトルを考える。

: $\backslash textbf=\; \backslash beginX\_1\; \backslash \backslash \; X\_2\; \backslash \backslash \; \backslash vdots\; \backslash \backslash \; X\_n\; \backslash end$

このベクトルの要素が各々分散が有限である確率変数であるとき、(i, j)の要素が次のような行列Σを分散共分散行列という。

:$$

\Sigma_

=\mathrm\begin

(X_i - \mu_i)(X_j - \mu_j)

\end

ただし、

: $\backslash mu\_i\; =\; \backslash mathrm(X\_i)\backslash ,$

は、ベクトルXのi番目の要素の期待値である。すなわち、Σは次のような行列である。

: $$

\Sigma

= \begin

\mathrm[外部リンク] - \mu_1)(X_1 - \mu_1) & \mathrm[外部リンク] - \mu_1)(X_2 - \mu_2) & \cdots & \mathrm[外部リンク] - \mu_1)(X_n - \mu_n) \\ \\

\mathrm[外部リンク] - \mu_2)(X_1 - \mu_1) & \mathrm[外部リンク] - \mu_2)(X_2 - \mu_2) & \cdots & \mathrm[外部リンク] - \mu_2)(X_n - \mu_n) \\ \\

\vdots & \vdots & \ddots & \vdots \\ \\

\mathrm[外部リンク] - \mu_n)(X_1 - \mu_1) & \mathrm[外部リンク] - \mu_n)(X_2 - \mu_2) & \cdots & \mathrm[外部リンク] - \mu_n)(X_n - \mu_n)

\end.

この行列の逆行列は$\backslash Sigma^$は、inverse covariance matrixまたは、precision matrixと呼ばれる。

◇ 分散の一般化としてみたとき

上記の定義は、下記の等式と同値である。

:$$

\Sigma=\mathrm

\left[

\left(

\textbf - \mathrm[外部リンク] X -->

\right)

\left(

\textbf - \mathrm[外部リンク] X -->

\right)^\top

\right]

この形は、スカラー値における分散を高次元に拡張したものと捉えられる。

スカラー値を取る確率変数Xについて、次が成り立つことに注意する。

:$$

\sigma^2 = \mathrm(X)

= \mathrm[外部リンク](X-\mu)^2, \,

ただし、

: $\backslash mu\; =\; \backslash mathrm(X).\backslash ,$

$\backslash Sigma$が、分散共分散行列と呼ばれるのは、対角要素は分散だからである。

◆名称の問題

この行列の名前の呼び名には、いくつかの異なった流儀がある。統計学者の一部は、William Fellerにならって、この行列が1 次元の分散の自然な拡張であることから、この行列を確率変数のベクトル$X$の分散と呼ぶ。また、この行列がベクトルXのスカラー要素の共分散であることから、この行列を共分散行列と呼ぶ流儀もある。すなわち、

:$$

\operatorname(\textbf)

=

\operatorname(\textbf)

=

\mathrm

\left[

(\textbf - \mathrm [外部リンク] X -->)

(\textbf - \mathrm [外部リンク] X -->)^\top

\right]

しかし、二つの確率変数ベクトルの間の相互共分散の標準的な記法は次のようになる。:$$

\operatorname(\textbf,\textbf)

=

\mathrm

\left[

(\textbf - \mathrm[外部リンク] X -->)

(\textbf - \mathrm[外部リンク] Y -->)^\top

\right]

$var$による記法は、William Fellerの2巻の本An Introduction to Probability Theory and Its Applicationsに見ることができるが、どちらの形式もかなり標準化されていて、その間に曖昧性はない。

◆ 性質

分散共分散行列について、次のような基本的な性質がある。ただし、$\backslash mu\; =\; \backslash mathrm(\backslash textbf)$とする。

# $\backslash Sigma\; =\; \backslash mathrm(\backslash mathbf)\; -\; \backslash mathbf\backslash mathbf$

# $\backslash mathbf$は、正定値

# $\backslash operatorname(\backslash mathbf+\; \backslash mathbf)\; =\; \backslash mathbf\backslash ,\; \backslash operatorname(\backslash mathbf)\backslash ,\; \backslash mathbf$

# $\backslash operatorname(\backslash mathbf,\backslash mathbf)\; =\; \backslash operatorname(\backslash mathbf,\backslash mathbf)^\backslash top$

# $\backslash operatorname(\backslash mathbf+\; \backslash mathbf,\backslash mathbf)\; =\; \backslash operatorname(\backslash mathbf,\backslash mathbf)\; +\; \backslash operatorname(\backslash mathbf,\; \backslash mathbf)$

# もしp = qならば、$\backslash operatorname(\backslash mathbf+\; \backslash mathbf)\; =\; \backslash operatorname(\backslash mathbf)\; +\; \backslash operatorname(\backslash mathbf,\backslash mathbf)\; +\; \backslash operatorname(\backslash mathbf,\; \backslash mathbf)\; +\; \backslash operatorname(\backslash mathbf)$

# $\backslash operatorname(\backslash mathbf,\; \backslash mathbf^\backslash top\backslash mathbf)\; =\; \backslash mathbf\backslash ,\; \backslash operatorname(\backslash mathbf,\; \backslash mathbf)\; \backslash ,\backslash mathbf$

# もし$\backslash mathbf$と$\backslash mathbf$が独立ならば、 $\backslash operatorname(\backslash mathbf,\; \backslash mathbf)\; =\; 0$

ただし、$\backslash mathbf,\; \backslash mathbf$と$\backslash mathbf$は、$\backslash mathbf$の確率変数のベクトル, $\backslash mathbf$は$\backslash mathbf$のベクトル, $\backslash mathbf$は$\backslash mathbf$のベクトル, $\backslash mathbf$ と$\backslash mathbf$は$\backslash mathbf$の行列とする.

前のページ 1/2 次のページ

・分散共分散行列 page1

・分散共分散行列 page2