houses prices2 - テスト

引き続きhose priseやっていきます。

とりあえずlassoとridgeとやらを勉強します。

簡単に教材ビデオが見つかるなんて良い時代ですね〜

Ridgeとは感覚的にはどうやら、

高次の方程式になるとモデルが複雑になりすぎて、二乗誤差をある程度以上は小さくできない

複雑さ＝パラーメーターの大きさとして

パラメーターにペナルティを与える＝回帰線を単純化する

みたいです。

デコボコになった線を滑らかにして、汎化するイメージですね。

良さそうなブログを見つけたのでコピペ
http://d.hatena.ne.jp/isseing333/20111123/1322053940

RidgeとLassoの違いについて勉強してたのですが、
L1/L2正則化の話になるようです。

またまた超感覚的な理解になるのですが、

Ridge　＝　W(重みベクトル)がどれもゼロにならない　＝　次元が削減されない

Lasso　＝　Wに、ゼロの値になるものがある　＝　次元が削減される

Elastic Net = Ridge と Lasso のミックス

みたいです。

意図的に次元を削減したい時はLassoってことでしょうか？

引き続き勉強しようと思います。