AdaBoostの基本的なアイディアは、重み付きクラス分類アルゴリズムで、重みをルール(正しく分類できる時、小さく / 分類できない時、大きく)に従って更新するというものです。scikit-learnでは、sklearn.ensembleに関数が用意されています。
拡張
名前 | 概要 | タスク | scikit-learn |
---|---|---|---|
AdaBoost.M1 | 1995年にFreund and Schapireによって提案された。 | 多クラス分類 | |
AdaBoost.M2 | 1995年にFreund and Schapireによって提案された。 | 多クラス分類 | – |
AdaBoost.SAMME | SAMMEアルゴリズムに基づく。 | 多クラス分類 | AdaBoostClassifier() |
AdaBoost.RT | M1の応用。設定された閾値より高い相対推定誤差を持つ例をフィルタリングし、AdaBoostの手順に従う | 回帰 | – |
AdaBoost.R2 | Drucker, “Improving Regressors using Boosting Techniques”, 1997. | 回帰 | AdaBoostRegressor() |
AdaBoost.MRT | RTをベースに、オリジナルを多変量回帰に拡張し、ノイズ感度を改善し、誤分類関数の特異点を改善したもの。 | 回帰 | – |