Python

Pythonで機械学習を学ぶ 正則化

モデルが複雑な場合に罰則を科し、過学習を抑える。

リッジ回帰、LASSO回帰、Elastic Netはそれらをあわせたもの。

alphaは正則化の強さ。ElasticNetのl1_ratioはミキシングパラメータ。0から1、L1 と L2 の比率を指定する。

サンプルコード

# リッジ回帰モデル
from sklearn.linear_model import Ridge
ridge = Ridge(alpha=1.0)

# LASSO回帰モデル
from sklearn.linear_model import Lasso
lasso = Lasso(alpha=1.0)

# Elastic Netモデル
from sklearn.linear_model import ElasticNet
elanet = ElasticNet(alpha=1.0, l1_ratio=0.5)