重回帰分析
ファイル等から、コピーする場合は、以下のテキストエリアに貼り付ける。
( xi , yi , zi , wi )の 各データセットは改行毎に、
xi とyi とzi とwi の データ間は半角コンマ、タブ、または、
半角スペースで、区切られることに注意。
サンプルデータ
w＝ax＋by＋cz＋dの場合
前回の重回帰分析は、目的変量に対し説明変量として
2個の変量を考えてきたが、説明変量は2個だけとは限らない。
そこで、説明変量が3個のときの重回帰分析について述べる。
この時、重回帰式は、
であり、定数項d は、
で与えられる。
i 番目の残差（d は既に使われているので、ei で表す）は、
となり、残差の二乗：ei2は、
となる。残差平方和S は、
と計算される。ここで、x の分散、y の分散、z の分散に加えて、
w の分散をそれぞれ、データを母集団とみなす場合、
データを標本とみなす場合、
と表すことにする。また、xとyの共分散、xとzの共分散、
yとzの共分散に加えて、xとwの共分散、
yとwの共分散、zとwの共分散をそれぞれ、
データを母集団とみなす場合、
データを標本とみなす場合、
と表すことにする。これらの分散・共分散を使って、残差平方和S は、
と書き直すことが出来る。
次に、この残差平方和Sをaとbとcに対し、それぞれ偏微分する。
偏微分とは、微分する数(ここではaやbやbやc)
以外を定数と見なして微分することである。
Sはa,b,cに対して最小値をとるのだから、
それらの偏導関数は当然ゼロでなくてはならない。
これを行列を用いて書き直すと、
の様に表せる。ここで、クラメル(Cramer)の公式より、
また、各相関係数に関しては、
「最小二乗法による線形回帰」の記事で述べた通り、
で与えられるが、前回の重回帰分析の記事で述べた様に、
説明変量が多くなると、マルチコがそれだけ起きやすくなるので、
説明変量間の相関が強くないかどうかを確かめながら、説明変量を選ぶ必要がある。