Python

Pythonで機械学習を学ぶ AdaBoost

AdaBoostの基本的なアイディアは、重み付きクラス分類アルゴリズムで、重みをルール(正しく分類できる時、小さく / 分類できない時、大きく)に従って更新するというものです。scikit-learnでは、sklearn.ensembleに関数が用意されています。

拡張

名前概要タスクscikit-learn
AdaBoost.M11995年にFreund and Schapireによって提案された。多クラス分類
AdaBoost.M21995年にFreund and Schapireによって提案された。多クラス分類
AdaBoost.SAMMESAMMEアルゴリズムに基づく。多クラス分類AdaBoostClassifier()
AdaBoost.RTM1の応用。設定された閾値より高い相対推定誤差を持つ例をフィルタリングし、AdaBoostの手順に従う回帰
AdaBoost.R2Drucker, “Improving Regressors using Boosting Techniques”, 1997.回帰AdaBoostRegressor()
AdaBoost.MRTRTをベースに、オリジナルを多変量回帰に拡張し、ノイズ感度を改善し、誤分類関数の特異点を改善したもの。回帰