2011年5月30日月曜日

回帰分析とは,相関との違いは?


回帰と相関,知っているようで知らない,その本質

インターネット上の情報は,玉石混交と言われるが,科学的説明に関しても,時折,驚くような誤解に出くわす。

今回,私はHP上で,最小二乗法による直線回帰について解説したので,参考にしてほしい。
http://www.ab.auone-net.jp/~biology/regline/regline.htm

最小二乗法は頻繁に行われる直線近似法である。EXCELなどの表計算ソフトでも容易に出来る。しかし,それがゆえに,どんな計算法か知らずに適用されてきているのも事実である。インターネット上で見つけた誤解例でも,理系人間を自称するその人自身が全く理解していない,という例であった。それに対し,私が繰り返し誤りを指摘したが,本人は全く理解できなかった。
http://okwave.jp/qa/q6733154.html

例えば,その回答者は,「最小二乗法は,x, y方向を最小とする」とか,「回帰の本質は45度の線を書くこと」とか,びっくりするような解説を与えていた。

回帰と言っても,曲線もあれば,多重回帰もある。
これらでは,45度にすら出来ない,のに,以上のような回答である。

まして,「x, y方向を最小」などという説明は,通常の最小二乗法((Ordinary Least Square: OLS)では,全く間違いである。

しかし,考えてみると,同様な誤解は結構多いのではないか,という気もしている。そこで,改めて,回帰と相関について,上記HPで,理論,応用の両面から考えてみた。